JP2015503393A - 運動を行っているユーザーの手及び/又は手首の回転を追跡するための方法及び装置 - Google Patents

運動を行っているユーザーの手及び/又は手首の回転を追跡するための方法及び装置 Download PDF

Info

Publication number
JP2015503393A
JP2015503393A JP2014549622A JP2014549622A JP2015503393A JP 2015503393 A JP2015503393 A JP 2015503393A JP 2014549622 A JP2014549622 A JP 2014549622A JP 2014549622 A JP2014549622 A JP 2014549622A JP 2015503393 A JP2015503393 A JP 2015503393A
Authority
JP
Japan
Prior art keywords
marker
hand
image
user
wrist
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
JP2014549622A
Other languages
English (en)
Inventor
ジン,シェン
リウ,ユシ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV, Koninklijke Philips Electronics NV filed Critical Koninklijke Philips NV
Publication of JP2015503393A publication Critical patent/JP2015503393A/ja
Ceased legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1126Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique
    • A61B5/1127Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique using markers
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1121Determining geometric values, e.g. centre of rotation or angular range of movement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1126Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique
    • A61B5/1128Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique using image analysis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6801Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be attached to or worn on the body surface
    • A61B5/6813Specially adapted to be attached to a specific body part
    • A61B5/6825Hand
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B24/00Electric or electronic controls for exercising apparatus of preceding groups; Controlling or monitoring of exercises, sportive games, training or athletic performances
    • A63B24/0003Analysing the course of a movement or motion sequences during an exercise or trainings sequence, e.g. swing for golf or tennis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2505/00Evaluating, monitoring or diagnosing in the context of a particular type of medical care
    • A61B2505/09Rehabilitation or training
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B2220/00Measuring of physical parameters relating to sporting activity
    • A63B2220/80Special sensors, transducers or devices therefor
    • A63B2220/806Video cameras

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Surgery (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Public Health (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Physiology (AREA)
  • Dentistry (AREA)
  • Geometry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Physical Education & Sports Medicine (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

本発明は、運動を行っているユーザーの手及び/又は手首の回転を追跡するための方法及び装置を提供する。本発明の一態様は、運動を行っているユーザーの手及び/又は手首の回転を追跡する方法を提供する。前記ユーザーは自身の手にマーカーを装着しており、当該方法は、前記手が第1の位置及び第2の位置にある場合に、前記マーカーの第1の画像及び第2の画像をそれぞれカメラで取得する工程;前記第1の画像及び前記第2の画像並びに前記ユーザーが行っている運動の種類に基づいて、前記第1の位置から前記第2の位置への変化から前記手及び/又は手首の角度変化を導出する工程;及び前記手及び/又は手首の角度変化を出力する工程;を含む。前記マーカーは長方形のブロックに近似しており、前記マーカーは、前記ユーザーの掌を収容するための開口部を有し、前記掌に垂直な方向に沿った前記マーカーの辺は、他の2つの辺よりも実質的に短い。このように、手/手首の回転の追跡を1つの手装着マーカーで十分行えるため、システム実装が簡略化され、マーカー又は加速度計のコストを削減することができる。

Description

本発明は手及び/又は手首の回転の追跡に関し、特に、運動を行っているユーザーの手及び/又は手首の回転を追跡するための方法及び装置に関する。
ビデオカメラとマーカーとに基づく単一の脳卒中リハビリテーションシステム(single video-camera and marker-based stroke rehabilitation system)は、新興市場にとってコスト効率のよい解決法である。脳卒中後患者は、テレビを用い、画面上に表示される医師/療法士が定めた指示に従って、自分たちでリハビリ運動を行うことができる。
国際公開第2008/099301号には、運動を指導及び監督するためのフィードバック装置が開示されている。このフィードバック装置は装着式のセンサ又はマーカーと、カメラシステムとを用いて人の体位及び/又は体の動きを検出するが、このフィードバック装置は体位全体しか検出することができないため、例えば、手及び/又は手首の回転運動での角度変化を正確に検出することができない。
具体的には、全てのリハビリ運動の中でも、手及び/又は手首に関する回転動作は脳卒中後患者にとって重要な運動である。楕円球又は立方体の様な任意形状を有する手装着マーカー(hand-worn marker)の場合、単一のカメラに基づくシステムで3自由度の手の回転を追跡するのは難しく、この作業を完遂するためには、手に装着する付加的なマーカー又は加速度計の様な他のモダリティーを用いて回転の追跡を支援しなければならない場合がほとんどである。
システム実装を簡素化し且つ手及び/又は手首の回転を追跡するためのマーカーの数を低減するために、本発明の発明者らは、あらゆる手/手首の回転に関連する運動を詳しく調査し、これらの運動を2つのカテゴリーに、即ち、カメラで取得したマーカーの画像の面積変化に関連しない(例えば、前腕の回内及び外回に伴う手/手首の回転)第1のカテゴリーと、カメラで取得したマーカーの画像の面積変化に関連する(例えば、手首の背屈及び掌屈)第2のカテゴリーとに分類でき得ることを見出した。
また、本発明者らは、第1のカテゴリーに属する運動のための手及び/又は手首の回転の追跡は直線当てはめアルゴリズム(line-fitting algorithm)により実現され、第2のカテゴリーに属する運動のための手/手首の回転の追跡は面積−角度マッピングアルゴリズム(area-angle mapping algorithm)によって実現され得ることを認識した。
それにもかかわらず、これら2つのアルゴリズムで任意形状のマーカーの全てを用いることができるわけではない。即ち、これらの2つのアルゴリズムを同時に実行できるようにするには、特別に設計した手装着マーカーと併せて2つのアルゴリズムを使用する必要がある。このように、手及び/又は手首の回転の追跡が1つの手装着マーカーで十分行えるため、システム実装が簡素化され、マーカー又は他の加速度計のコストを削減することができる。
先に述べたように、手装着マーカーの形状は、特に直線当てはめアルゴリズムの場合に任意であってはならないことを本発明の発明者は見出した。例えば、マーカーからカメラへの突出(projection)が円形又は正方形状だと、カメラで取得した画像を直線に当てはめることができないため、マーカーの動きによって表される手/手首の回転を直線当てはめアルゴリズムで特定することができない。
そのため、上記に鑑みて、本発明者らは、1つのマーカーで、手及び/又は手首の回転の追跡を、面積−角度マッピングアルゴリズム及び直線当てはめアルゴリズムの双方に対して同時に適したものにするには、マーカーからカメラへの突出が長方形様の形状、好ましくは直線当てはめに適した薄い長方形状であるべきこと見出した。即ち、マーカーの突出は円形又は正方形等であってはならない。
具体的には、本発明の一態様によれば、運動を行っているユーザーの手及び/又は手首の回転を追跡する方法が提供される。前記ユーザーは自身の手にマーカーを装着しており、当該方法は、前記手が第1の位置及び第2の位置にある場合に、前記マーカーの第1の画像及び第2の画像をそれぞれカメラで取得する工程;前記第1の画像及び前記第2の画像並びに前記ユーザーが行っている運動の種類に基づいて、前記第1の位置から前記第2の位置への変化から前記手及び/又は手首の角度変化を導出する工程;及び前記手及び/又は手首の角度変化を出力する工程;を含み、前記マーカーは長方形のブロックに近似しており、前記マーカーは、前記ユーザーの掌を収容するための開口部を有し、前記掌に垂直な方向に沿った前記マーカーの辺は、他の2つの辺よりも実質的に短い。
掌に垂直な方向に沿ったマーカーの辺は、他の2つの辺よりも実質的に短いため、マーカーからカメラへの突出は長方形状であり、直線に当てはめることができる。従って、上記の形状を有する手装着マーカーは直線当てはめアルゴリズムに好適である。そのため、本発明の方法により、手及び/又は手首の回転の追跡を1つの手装着マーカーで十分行えるため、システム実装が簡素化され、マーカー又は他の加速度計のコストを削減することができる。
本発明の一実施形態によれば、前記ユーザーが行っている運動の種類が前腕の回内及び外回に関連し且つ前記第1の画像及び前記第2の画像が細長い場合、前記導出工程は、前記第1の画像及び前記第2画像を第1の線及び第2の線にそれぞれ当てはめるサブ工程;及び前記手及び/又は手首の角度変化として前記第1の線と前記第2の線との間の角度を算出するサブ工程;を含む。
先に説明したように、単純な手装着マーカーと併せて直線当てはめアルゴリズムを用いることで、この種類の運動のための手及び/又は手首の回転の追跡をこのような形で容易に行え得る。
また、本発明の一実施形態によれば、前記ユーザーが行っている運動の種類が手首の背屈及び掌屈に関連する場合、前記導出工程は、前記第1の画像の第1の面積及び前記第2の画像の第2の面積をそれぞれ算出するサブ工程;前記マーカーが前記第1の位置にある場合に前記マーカーが横たわる面の基準面に対する角度を示す第1の角度に、所定のテーブルを参照して前記第1の面積をマッピングするサブ工程;前記マーカーが前記第2の位置にある場合に前記マーカーが横たわる面の前記基準面に対する角度を示す第2の角度に、前記所定のテーブルを参照して前記第2の面積をマッピングするサブ工程;及び前記第1の角度と前記第2の角度との間の角度差を、前記手及び/又は手首の角度変化として算出するサブ工程;を含む。
先に説明したように、単純な手装着マーカーと併せて面積マッピングアルゴリズムを用いることで、この種類の運動のための手及び/又は手首の回転の追跡をこのような形で容易に行え得る。
参照テーブルを確立する方法に関して、本発明の好ましい実施形態によれば、面積が同じであるが異なる位置に対応する2つの画像(例えば、面積が同じであるが、手首の屈曲及び伸展時にそれぞれ得られた2つの画像)を区別するために、任意で、取得したマーカーの画像の面積が最も小さいマーカーの面を基準面とし、マーカーの中心を参照して、取得した画像の同じ面積に対応する異なる位置のためのサインが区別される。
本発明の他の態様によれば、運動を行っているユーザーの手及び/又は手首の回転を追跡するための装置が提供される。前記ユーザーは自身の手にマーカーを装着しており、当該装置は、前記手が第1の位置及び第2の位置にある場合に、前記マーカーの第1の画像及び第2の画像をそれぞれ取得するように構成されたカメラ;前記第1の画像及び前記第2の画像並びに前記ユーザーが行っている運動の種類に基づいて、前記第1の位置から前記第2の位置への変化から前記手及び/又は手首の角度変化を導出するように構成されたプロセッサ;及び前記手及び/又は手首の角度変化を出力するように構成されたインターフェース;を含み、前記マーカーは長方形のブロックに近似しており、前記マーカーは、前記ユーザーの掌を収容するための開口部を有し、前記掌に垂直な方向に沿った前記マーカーの辺は、他の2つの辺よりも実質的に短い。
先に説明したように、上記の形状を有する手装着マーカーは直線当てはめアルゴリズムに好適であることから、本発明の装置を用いることで、手及び/又は手首の回転の追跡を1つの手装着マーカーで十分行えるため、システム実装が簡素化され、マーカー又は他の加速度計のコストを削減することができる。
本発明のさらなる実施形態によれば、前記プロセッサは、前記角度変化及び前記運動の設定目標に基づいて、指示情報を生成するようにさらに構成され、前記インターフェースは、映像及び/又は音声で前記指示情報を前記ユーザーに提供するようにさらに構成されている。
このように、上記装置は、基本的に検出の結果を表示したもの又は声によるプロンプトであり、ユーザーが理解できる形で示されるか又は提供されるリアルタイムフィードバックを提供し得る。従って、ユーザーの体験が向上する。
本発明の一実施形態によれば、前記マーカーは、前記ユーザーが自身の掌を前記開口部に挿入した場合に、該掌の厚さ、長さ及び幅にそれぞれ対応する3つの辺a、b及びcを有する。好ましい実施形態では、人の手の形にフィットするように、a、b及びcの大きさは、a=55mm〜75mm、b=195mm〜220mm、c=155mm〜170mmである。そのため、ユーザーにとってマーカーがより快適で且つより簡便なものとなる。
本発明で用いるマーカー及びカメラの種類について、逆反射マーカー及び赤外線カメラの組み合わせが好ましい。逆反射マーカーを用いることの利点は、非反射領域と比べて非常に高いコントラストを得ることができる点であり、画像の区分けに有益である。上肢関節等の患者の特定位置にマーカーを取り付けることで、腕の動きを追跡することができる。
それでもなお、本発明の実施は「逆反射マーカーと赤外線カメラ」との組み合わせに限定されておらず、他の「マーカー+カメラ」に基づく構成でも用いることができる。
例えば、マーカーは必ずしも逆反射マーカーではなく、赤色又はマーカーの周辺環境と区別可能な任意の他の色の一般的なマーカーであり得る。この場合、カメラで用いられるアルゴリズムが色認識により画素を区分できるのであれば、カメラは一般的なカメラであってもよい。即ち、カメラで取得したマーカーの画像を周囲の画像と区別できる限り、他の種類のマーカー及びカメラを用いてもよい。
本発明の他の目的及び利点は、添付の図面と組み合わせた説明から一層明らかとなり、それらの組み合わせを参照することで容易に理解できる。
以下、図面を参照しながら、実施形態と組み合わせて、本発明をより詳細に記載及び説明する。
図1a〜図1cは、手装着マーカーの上面図、前面図及び側面図をそれぞれ示す。 図2は、手装着マーカーの斜視図を示す。 図3は、本発明の一実施形態に係る手装着マーカーの形状を示す。 図4は、前腕の回内及び回外時の手の初期位置の定義を示す説明図である。 図5は、直線あてはめアルゴリズムを利用して得た手及び/又は手首の角度変化を示す説明図である。 図6は、手首の屈曲及び伸展時の手装着マーカーの面積変化を前面から示す説明図である。 図7は、本発明の一実施形態に係る、運動を行っているユーザーの手及び/又は手首の回転を追跡するための方法のフローチャートである。 図8は、本発明の一実施形態に係る、運動を行っているユーザーの手及び/又は手首の回転を追跡するための装置のブロック図である。 図9は、ディスプレイ上でのリアルタイムフィードバックにおける角度変化の提示を示す。 図面中の同じ参照符号は、同様の又は対応する特徴及び/又は機能を示す。
図面を参照しながら、本発明の実施形態を以下でより詳細に説明する。
手装着マーカーは、脳卒中後患者が装着するのに適しているだけでなく、3自由度の回転の追跡を技術的にサポートしたものでなければならない。鞘が別になったデザインのグローブ(glove with a separate sheath design)の装着は脳卒中患者にとって困難なため、指なしのグローブとしてマーカーの基本形状を設計すべきである。
図1a〜図1cは、手装着マーカーの上面図、前面図及び側面図をそれぞれ示す。赤外線を反射させるために、グローブ(即ち、手装着マーカー)の外側に逆反射性材料が張り付けられている。
図2は、手装着マーカーの斜視図をさらに示す。図2から分かるように、とりわけ、一方側の手足に機能障害を持つユーザーがより簡便にグローブを身に着けれるように、グローブはフリップオーバーデザイン(flip-over design)を有する。
図3は、本発明の一実施形態に係る手装着マーカーの形状を示す。
図3から分かるように、マーカーの形状は実質的に立方体である。マーカーは、ユーザーが自身の掌を開口部に挿入した場合に、その掌の厚さ、長さ及び幅にそれぞれ対応する3つの辺a、b及びcを有する。
本発明によれば、a、b及びcのうちの少なくとも1つは、他の2つと異なるため、立方体を構成する6つの側面のうちの1対の側面は長方形であり、それらを直線に当てはめることができる。
図3に示す実施形態では、マーカーは長方形のブロックに近似しており、マーカーはユーザーの掌を収容するための開口部を有し、ユーザーの掌に垂直な方向に沿ったマーカーの辺は、他の2つの辺よりも実質的に短い。
掌に垂直な方向に沿ったマーカーの辺は他の2つの辺よりも実質的に短いため、マーカーからカメラへの突出は長方形状であり、それを直線に当てはめることができる。従って、上記の形状の手装着マーカーは直線当てはめアルゴリズムに好適である。
本発明の一実施形態によれば、マーカーを人間の手の形に適したものにするために、b>c>aであることが好ましい。
また、ユーザーが装着し易くするために、aは55mm〜75mmの範囲から選択されることが好ましく、bは195mm〜220mmの範囲から選択されることが好ましく、cは155〜170mmの範囲から選択されることが好ましい。
男性又は女性のユーザーの手の形を考慮に入れるために、これらのパラメータをユーザーの性別に従って選択することがさらに好ましい。
例えば、大人の男性ユーザーの場合、a=60mm〜75mm、b=205mm〜220mm、c=160mm〜170mmであり、大人の女性ユーザーの場合、a=55mm〜65mm、b=195mm〜210mm、c=155mm〜165mmである。
本発明の好ましい実施形態では、aとして63mmが選択され、bとして210mmが選択され、cとして165mmが選択され得る。
先に述べたように、本発明の発明者らは、これらの手及び/又は手首に関する運動を2つのカテゴリーに、即ち、カメラで取得したマーカーの画像の面積変化に関連しない(例えば、前腕の回内及び外回に伴う手/手首の回転)第1のカテゴリーと、カメラで取得したマーカーの画像の面積変化に関連する(例えば、手首の背屈及び掌屈)第2のカテゴリーとに分類でき得ることを見出した。
また、本発明者らは、第1のカテゴリーに属する運動のための手及び/又は手首の回転の追跡は直線当てはめアルゴリズムによって実行でき、第2のカテゴリーに属する運動のための手及び/又は手首の回転の追跡は面積−角度マッピングアルゴリズムによって実行でき得ることを認識した。
以下では、第1のカテゴリーの運動の例として、前腕の回内及び外回に伴う手及び/又は手首の回転を、図4及び図5を参照しながら説明する。
図4は、前腕の回内及び外回時の手の初期位置の定義を示す説明図である。
図4から分かるように、手が水平面に垂直な位置(即ち、図4に示す手が0°の位置)が、前腕の回内及び外回運動における手の初期位置として選択され得る。
図5は、直線当てはめアルゴリズムを用いて得た手及び/又は手首の角度変化を示す説明図である。
直線当てはめアルゴリズムによれば、マーカーを手に装着してマーカーをカメラで撮像すると、第1の画像及び第2の画像は細長く、マーカーの画像の全ての画素が画像の長さ方向に沿った直線に当てはめられる。
手が第1の位置にある場合に取得したマーカーの画像を第1の線に当てはめ、手が第2の位置にある場合に取得したマーカーの画像を第2の線に当てはめたとすると、第1の線と第2の線との間の角度を、手及び/又は手首の角度変化として算出することができる。
なお、本実施形態における第1の位置は初期位置と同じであるが、第1の位置は初期位置から逸れていてもよい。例えば、第1の位置は図4に示す手が0°の位置ではなく、図4の左側に示す手が80°の位置であり得る。
以下では、第2のカテゴリーの運動の例として、手首の背屈及び掌屈を、図6を参照しながら説明する。
図6は、手首の背屈及び掌屈時の手装着マーカーの面積変化を前面から示す説明図である。
図6から分かるように、マーカーの面積は、手首の様々な屈曲及び伸展角度により変化する。手装着マーカーは、ユーザーが手首の背屈及び掌屈を行った場合に横断面が特定の形状を有するように設計されている。マーカーの画像の最も小さい面積が手首の自然な位置を表し、マーカーの画像の面積が最も小さいマーカーの面を基準面(0°位置)とした場合、マーカーの画像の最も大きい面積は、手首が90°屈曲又は伸展したことを表す。
手首の伸展又は屈曲を区別するために、手首が自然な位置にある時に、マーカーの中心を追跡し、その元の位置と比較され得る。屈曲運動の場合のマーカーの中心位置は、伸展運動の場合での位置と逆であるべきである。
この点に関して、当業者であれば容易に分かるように、マーカーの中央位置は伸展と屈曲とを区別する方法の一例に過ぎず、この目的のためにグローブの他の位置又は他の基準を用いることができる限り、それらが採用され得る。
図7は、本発明の一実施形態に係る、運動を行っているユーザーの手/手首の回転を追跡する方法のフローチャートである。
図7から分かるように、運動を行っているユーザーの手/手首の回転を追跡する方法70を提案する。具体的には、この方法70は、先に説明した手装着マーカーと併せて用いられ、取得工程71、導出工程72及び出力工程73を含む。
先ず、手が第1の位置及び第2の位置にある場合に、マーカーの第1の画像及び第2の画像をそれぞれカメラで取得する(ステップ71)。
そして、第1の画像及び第2の画像並びにユーザーが行っている運動の種類に基づいて、第1の位置から第2の位置への変化に関連する手及び/又は手首の角度変化を導出する(ステップ72)。
用いるアルゴリズムは、ユーザーが行っている運動の種類に応じて選択される。例えば、ユーザーが行っている運動の種類が前腕の回内及び外回に関連し且つ第1の画像及び第2の画像が細長い場合、手及び/又は手首の角度変化は直線当てはめアルゴリズムを用いて導出される。また、ユーザーが行っている運動の種類が手首の背屈及び掌屈に関連する場合、手及び/又は手首の角度変化は面積−角度マッピングアルゴリズムを用いて導出される。
本発明の一実施形態によれば、ユーザーが行っている運動の種類が前腕の回内及び外回に関連し且つ第1の画像及び第2の画像が細長い場合、導出工程は、第1の画像及び第2の画像を第1の線及び第2の線にそれぞれに当てはめるサブ工程と、第1の線と第2の線との間の角度を手及び/又は手首の角度変化として算出するサブ工程とを含む。
直線当てはめアルゴリズムの詳細は、図4〜図5との組み合わせで先に説明したため、ここでは省略する。
本発明の一実施形態によれば、ユーザーが行っている運動の種類が手首の背屈及び掌屈に関連する場合、導出ステップは、第1の画像の第1の面積及び第2の画像の第2の面積をそれぞれ算出するサブ工程と、マーカーが第1の位置にある場合にマーカーが横たわる面の基準面に対する角度を示す第1の角度に、所定のテーブルを参照して第1の面積をマッピングするサブ工程と、マーカーが第2の位置にある場合にマーカーが横たわる面の基準面に対する角度を示す第2の角度に、所定のテーブルを参照して第2の面積をマッピングするサブ工程と、第1の角度と第2の角度との間の角度差を、手及び/又は手首の角度変化として算出するサブ工程とを含む。
参照テーブルの確立方法に関して、本発明の好ましい実施形態によれば、マーカーの画像の面積が最も小さいマーカーの面を基準面(0°位置)とする。従って、マーカーの画像の面積が最も小さい位置が運動の初期位置として選択され得る。
直線当てはめの場合と同様に、本実施形態における第1の位置は初期位置と同じであり得るが、第1の位置は初期位置と同じでなくてもよい。即ち、第1の位置は0°の位置(図6の中央に示す位置)ではなく図6に示す任意の他の位置であってもよい。
さらなる実施形態では、マーカーの画像の面積が同じであり且つマーカーの面が基準面の両側に位置する2つの手の位置を区別するために、任意で、マーカーの中心を参照してこれら2つの位置を区別し、それらの位置に、大きさは同じであるが符号が異なる2つの角度を割り当てる。
先に述べたように、当業者であれば、マーカーの中心位置を参照することは、伸展及び屈曲を区別する方法の一例に過ぎないことが容易に分かる。この目的のためにマーカーの他の位置又は他の基準が使用できる限り、それらが採用され得る。
手及び/又は手首の角度変化が一度得られると、それがユーザーに出力され得る(ステップ73)。
図7に図示していないが、本発明の一実施形態では、本発明の方法が、角度変化及び運動の設定目標に基づいて指示情報を生成する工程と、映像及び/又は音声によりユーザーに該指示情報を提供する工程とをさらに含み得る。
例えば、ユーザーが行っている運動のための角度変化に関する設定目標が参照図(reference figure)として表示されるように、手及び/又は手首の角度変化がリアルタイムで表示され得る。このように、基本的には検出の結果を表示したものであるリアルタイムフィードバックを、ユーザーが理解できるような形で提供することができる。従って、ユーザーの体験が向上する。
図9を参照することで上記の考えをより容易に理解でき得る。具体的には、図9は、ディスプレイ上のリアルタイムフィードバックにおける角度変化の提示を示す。
各回転運動の設定目標が扇状の図(sector-shaped figure)として表示され、動作線及び回転角度が表示される(図9a)。ユーザーが自身の手及び/又は手首を回転させると、扇の円弧に合致して動作線が移動する。それに従って、回転角度が変化する(図9b及び9c)。
画面上での回転動作があまりにも僅かであると、回転を視覚的に認識するのが難しいとユーザーが考え得ることが時折ある。その場合、ユーザーの実施状況や、回転させた程度をユーザーが実際に見ることができるように、回転に関連する領域を拡大させ得る拡大機能を設けてもよい。回転運動についてのユーザーの理解を高め且つユーザーが運動を行っている間にユーザーの意欲を刺激するために、リアルタイムフィードバックの傍にマンガキャラクターの紹介を配して、ユーザーが具体的に行うべきことや、現在の運動についてユーザーが注意すべき要点をユーザーに伝えるようにすることができる。
図8は、本発明の一実施形態に係る、運動を行っているユーザーの手及び/又は手首の回転を追跡するための装置のブロック図である。
図8から分かるように、運動を行っているユーザーの手及び/又は手首の回転を追跡するための装置80を提案する。具体的には、この装置80は先に説明した手装着マーカーと併せて用いられ、カメラ81、プロセッサ82及びインターフェース83を含む。
図8のカメラ81は、手が第1の位置及び第2の位置にある場合に、マーカーの第1の画像及び第2の画像をそれぞれ取得するのに用いられる。
画像を取得した後、第1の画像及び第2の画像並びにユーザーが行っている運動の種類に基づいて、第1の位置から第2の位置への変化から手及び/又は手首の角度変化を導出するのにプロセッサ82が用いられる。
インターフェース83は、手及び/又は手首の角度変化をユーザーに出力するように構成されている。
本発明の一実施形態では、インターフェース83は、手及び/又は手首の角度変化をディスプレイ上に視覚的に表示するか又はスピーカーにより角度変化を出力するように構成され得る。
このように、上記装置は、基本的に検出の結果を表示したもの又は声によるプロンプトであり、ユーザーが理解できるような形で示されるか又は提供されるリアルタイムフィードバックを提供する。従って、ユーザーの体験が向上する。
なお、本実施形態における逆反射マーカー及び赤外線カメラの説明は、例示を目的としたものでしかなく、限定的な意味合いで解釈すべきでない。先に説明したように、本発明の実施は「逆反射マーカーと赤外線カメラ」との組み合わせに限定されるものではなく、他の「マーカー+カメラ」に基づく構成でも用いることができる。
例えば、マーカーは必ずしも逆反射マーカーではなく、赤色又は手の周辺環境と区別可能な任意の他の色の一般的なマーカーであり得る。この場合、カメラは、カメラで取得したマーカーの画像が周囲の画像と区別できる限り、一般的なカメラであり得る。
なお、前述の実施形態は、本発明を限定するものではなく説明するものであり、当業者は、添付の請求項の範囲から逸脱することなく代替的な実施形態を設計することができる。請求項内の括弧に入った参照符号は請求項を限定すると解釈してはならない。「含む(comprising)」という用語は、請求項に記載の要素又は工程以外のものの存在を排除しない。要素に先行する「a」又は「an」という用語は、その要素が複数存在することを排除しない。いくつかのユニットが列挙されるシステムクレームでは、これらのユニットのいくつかは全く同一のシステム及び/又はハードウェアによって実施され得る。第1、第2及び第3という用語の使用は、順序を何ら示すものではない。これらの用語は名前として解釈すべきである。

Claims (12)

  1. 運動を行っているユーザーの手及び/又は手首の回転を追跡する方法であって、
    前記ユーザーは自身の手にマーカーを装着しており、
    当該方法は、
    前記手が第1の位置及び第2の位置にある場合に、前記マーカーの第1の画像及び第2の画像をそれぞれカメラで取得する工程;
    前記第1の画像及び前記第2の画像並びに前記ユーザーが行っている運動の種類に基づいて、前記第1の位置から前記第2の位置への変化から前記手及び/又は手首の角度変化を導出する工程;及び
    前記手及び/又は手首の角度変化を出力する工程;
    を含み、
    前記マーカーは長方形のブロックに近似しており、前記マーカーは、前記ユーザーの掌を収容するための開口部を有し、前記掌に垂直な方向に沿った前記マーカーの辺は、他の2つの辺よりも実質的に短い、方法。
  2. 前記ユーザーが行っている運動の種類が前腕の回内及び外回に関連し且つ前記第1の画像及び前記第2の画像が細長い場合、前記導出工程は、
    前記第1の画像及び前記第2画像を第1の線及び第2の線にそれぞれ当てはめるサブ工程;及び
    前記手及び/又は手首の角度変化として前記第1の線と前記第2の線との間の角度を算出するサブ工程;を含む、請求項1に記載の方法。
  3. 前記ユーザーが行っている運動の種類が手首の背屈及び掌屈に関連する場合、前記導出工程は、
    前記第1の画像の第1の面積及び前記第2の画像の第2の面積をそれぞれ算出するサブ工程;
    前記マーカーが前記第1の位置にある場合に前記マーカーが横たわる面の基準面に対する角度を示す第1の角度に、所定のテーブルを参照して前記第1の面積をマッピングするサブ工程;
    前記マーカーが前記第2の位置にある場合に前記マーカーが横たわる面の前記基準面に対する角度を示す第2の角度に、前記所定のテーブルを参照して前記第2の面積をマッピングするサブ工程;及び
    前記第1の角度と前記第2の角度との間の角度差を、前記手及び/又は手首の角度変化として算出するサブ工程;を含む、請求項1に記載の方法。
  4. 前記基準面は、前記取得した画像の面積が最も小さい面と定義される、請求項3に記載の方法。
  5. 前記角度変化及び前記運動の設定目標に基づいて、指示情報を生成する工程;及び
    映像及び/又は音声で前記指示情報を前記ユーザーに提供する工程;
    をさらに含む、請求項1に記載の方法。
  6. 運動を行っているユーザーの手及び/又は手首の回転を追跡するための装置であって、
    前記ユーザーは自身の手にマーカーを装着しており、
    当該装置は、
    前記手が第1の位置及び第2の位置にある場合に、前記マーカーの第1の画像及び第2の画像をそれぞれ取得するように構成されたカメラ;
    前記第1の画像及び前記第2の画像並びに前記ユーザーが行っている運動の種類に基づいて、前記第1の位置から前記第2の位置への変化から前記手及び/又は手首の角度変化を導出するように構成されたプロセッサ;及び
    前記手及び/又は手首の角度変化を出力するように構成されたインターフェース;
    を含み、
    前記マーカーは長方形のブロックに近似しており、前記マーカーは、前記ユーザーの掌を収容するための開口部を有し、前記掌に垂直な方向に沿った前記マーカーの辺は、他の2つの辺よりも実質的に短い、装置。
  7. 前記ユーザーが行っている運動の種類が前腕の回内及び外回に関連し且つ前記第1の画像及び前記第2の画像が細長い場合、前記プロセッサは、
    前記第1の画像及び前記第2画像を第1の線及び第2の線にそれぞれ当てはめるように構成された当てはめ部;及び
    前記手及び/又は手首の角度変化として前記第1の線と前記第2の線との間の角度を算出するように構成された第1の計算器;を含む、請求項6に記載の装置。
  8. 前記ユーザーが行っている運動の種類が手首の背屈及び掌屈に関連する場合、前記プロセッサは、
    前記第1の画像の第1の面積及び前記第2の画像の第2の面積をそれぞれ算出するように構成された第2の計算器;
    前記マーカーが前記第1の位置にある場合に前記マーカーが横たわる面の基準面に対する角度を示す第1の角度に、所定のテーブルを参照して前記第1の面積をマッピングするように構成された第1のマッピング部;
    前記マーカーが前記第2の位置にある場合に前記マーカーが横たわる面の前記基準面に対する角度を示す第2の角度に、前記所定のテーブルを参照して前記第2の面積をマッピングするように構成された第2のマッピング部;及び
    前記第1の角度と前記第2の角度との間の角度差を、前記手及び/又は手首の角度変化として算出するように構成された第3の計算器;を含む、請求項6に記載の装置。
  9. 前記基準面は、前記取得した画像の面積が最も小さい面と定義される、請求項8に記載の装置。
  10. 前記プロセッサは、前記角度変化及び前記運動の設定目標に基づいて、指示情報を生成するようにさらに構成され、前記インターフェースは、映像及び/又は音声で前記指示情報を前記ユーザーに提供するようにさらに構成されている、請求項6に記載の装置。
  11. 前記マーカーをさらに含み、前記カメラは赤外線カメラであり、前記マーカーの外面は、赤外線カメラで撮像可能な逆反射材料で被覆されている、請求項6に記載の装置。
  12. 前記マーカーは、前記ユーザーが自身の掌を前記開口部に挿入した場合に、該掌の厚さ、長さ及び幅にそれぞれ対応する3つの辺a、b及びcを有し、該a、b及びcの大きさは、a=55mm〜75mm、b=195mm〜220mm、c=155mm〜170mmである、請求項11に記載の装置。
JP2014549622A 2011-12-30 2012-12-28 運動を行っているユーザーの手及び/又は手首の回転を追跡するための方法及び装置 Ceased JP2015503393A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CNPCT/CN2011/085060 2011-12-30
CN2011085060 2011-12-30
PCT/IB2012/057795 WO2013098791A1 (en) 2011-12-30 2012-12-28 A method and apparatus for tracking hand and/or wrist rotation of a user performing exercise

Publications (1)

Publication Number Publication Date
JP2015503393A true JP2015503393A (ja) 2015-02-02

Family

ID=47827384

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014549622A Ceased JP2015503393A (ja) 2011-12-30 2012-12-28 運動を行っているユーザーの手及び/又は手首の回転を追跡するための方法及び装置

Country Status (5)

Country Link
US (1) US10542916B2 (ja)
EP (1) EP2797507A1 (ja)
JP (1) JP2015503393A (ja)
BR (1) BR112014015764A8 (ja)
WO (1) WO2013098791A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB201003883D0 (en) * 2010-03-09 2010-04-21 Univ Southampton Apparatus and method for measurement of hand joint movement
US10542916B2 (en) 2011-12-30 2020-01-28 Koninklijke Philips N.V. Method and apparatus for tracking hand and/or wrist rotation of a user performing exercise
RU2015133516A (ru) * 2013-01-11 2017-02-17 Конинклейке Филипс Н.В. Система и способ оценки объема движений субъекта
EP3005280B1 (en) 2013-05-30 2019-05-08 Atlas Wearables, Inc. Portable computing device and analyses of personal data captured therefrom
US10149624B2 (en) * 2014-11-06 2018-12-11 Koninklijke Philips N.V. Method and device for measuring intracranial pressure, ICP, in a subject
EP3621083A1 (en) * 2018-09-10 2020-03-11 Koninklijke Philips N.V. Rehabilitation device and method
US11557215B2 (en) * 2018-08-07 2023-01-17 Physera, Inc. Classification of musculoskeletal form using machine learning model

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070207873A1 (en) * 2006-03-01 2007-09-06 Acushnet Company IR system for kinematic analysis
JP2010508096A (ja) * 2006-11-02 2010-03-18 クィーンズ ユニバーシティー アット キングストン 固有受容機能を評価するための方法および装置
JP2011092274A (ja) * 2009-10-27 2011-05-12 Sumitomo Precision Prod Co Ltd 検出装置
WO2011113070A1 (en) * 2010-03-07 2011-09-15 Centauri Medical, INC. Systems, devices and methods for preventing, detecting, and treating pressure-induced ischemia, pressure ulcers, and other conditions

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001133300A (ja) * 1999-11-04 2001-05-18 Sony Corp 動作認識装置及び動作認識方法、並びに力触覚提示装置及びその制御方法
JP4466133B2 (ja) 2004-03-09 2010-05-26 横浜ゴム株式会社 移動体計測装置
US7662113B2 (en) * 2004-11-05 2010-02-16 California Institute Of Technology Fingertip tracker
US20090305207A1 (en) 2005-12-12 2009-12-10 Hiromu Ueshima Training method, training device, and coordination training method
US9075441B2 (en) * 2006-02-08 2015-07-07 Oblong Industries, Inc. Gesture based control using three-dimensional information extracted over an extended depth of field
GB0614250D0 (en) 2006-07-18 2006-08-30 Ntnu Technology Transfer As Apparatus and Methods for Natural Gas Transportation and Processing
US20080036737A1 (en) 2006-08-13 2008-02-14 Hernandez-Rebollar Jose L Arm Skeleton for Capturing Arm Position and Movement
US8328691B2 (en) 2007-02-14 2012-12-11 Koninklijke Philips Electronics N.V. Feedback device for guiding and supervising physical excercises
US20090131225A1 (en) 2007-08-15 2009-05-21 Burdea Grigore C Rehabilitation systems and methods
WO2010022882A2 (en) 2008-08-25 2010-03-04 Universität Zürich Prorektorat Mnw Adjustable virtual reality system
US10542916B2 (en) 2011-12-30 2020-01-28 Koninklijke Philips N.V. Method and apparatus for tracking hand and/or wrist rotation of a user performing exercise
CN104023634B (zh) 2011-12-30 2017-03-22 皇家飞利浦有限公司 用于追踪正在执行锻炼的用户的手部和/或腕部旋转的方法和设备

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070207873A1 (en) * 2006-03-01 2007-09-06 Acushnet Company IR system for kinematic analysis
JP2010508096A (ja) * 2006-11-02 2010-03-18 クィーンズ ユニバーシティー アット キングストン 固有受容機能を評価するための方法および装置
JP2011092274A (ja) * 2009-10-27 2011-05-12 Sumitomo Precision Prod Co Ltd 検出装置
WO2011113070A1 (en) * 2010-03-07 2011-09-15 Centauri Medical, INC. Systems, devices and methods for preventing, detecting, and treating pressure-induced ischemia, pressure ulcers, and other conditions

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
DURGIN FRANK H: "PALM BOARDS ARE NOT ACTION MEASURES: AN ALTERNATIVE TO THE TWO-SYSTEMS THEORY 以下備考", ACTA PSYCHOLOGICA, vol. V134 N2, JPN5015002475, 1 June 2010 (2010-06-01), NL, pages 182 - 197, ISSN: 0003435934 *

Also Published As

Publication number Publication date
US10542916B2 (en) 2020-01-28
BR112014015764A8 (pt) 2017-07-04
WO2013098791A1 (en) 2013-07-04
BR112014015764A2 (pt) 2017-06-13
EP2797507A1 (en) 2014-11-05
US20140371634A1 (en) 2014-12-18

Similar Documents

Publication Publication Date Title
US11704876B2 (en) Mobile device for viewing of dental treatment outcomes
JP2015503393A (ja) 運動を行っているユーザーの手及び/又は手首の回転を追跡するための方法及び装置
US20200197744A1 (en) Method and system for motion measurement and rehabilitation
US11861062B2 (en) Blink-based calibration of an optical see-through head-mounted display
JP6381918B2 (ja) 動作情報処理装置
JP5547968B2 (ja) 身体運動を指導及び監督するフィードバック装置及びその作動方法
EP2726164B1 (en) Augmented-reality range-of-motion therapy system and method of operation thereof
JP6195894B2 (ja) 形状認識装置、形状認識プログラム、および形状認識方法
TWI476633B (zh) 傳輸觸覺資訊的系統和方法
JP6181373B2 (ja) 医用情報処理装置及びプログラム
CN104274183A (zh) 动作信息处理装置
Wei et al. Real-time 3D arm motion tracking using the 6-axis IMU sensor of a smartwatch
CN104023634B (zh) 用于追踪正在执行锻炼的用户的手部和/或腕部旋转的方法和设备
WO2016014163A1 (en) Three dimensional sensor-based interactive pain maps for localizing pain
TWM569887U (zh) Augmented reality system
JP7262763B2 (ja) リハビリ支援装置、及びプログラム
TWI644285B (zh) Acupuncture visualization Chinese medicine system and method thereof by using AR technology
Tanaka et al. Creating Method for Real-Time CG Animation of Cooperative Motion of Both Hands for Mirror Box Therapy Support System
US20230384860A1 (en) Devices, methods, and graphical user interfaces for generating and displaying a representation of a user
JP6425355B2 (ja) 上肢運動学習装置
CN110826385A (zh) 康复设备及方法
WO2023230088A1 (en) Devices, methods, and graphical user interfaces for generating and displaying a representation of a user

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170131

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20170321

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170720

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20170728

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20170908

A045 Written measure of dismissal of application [lapsed due to lack of payment]

Free format text: JAPANESE INTERMEDIATE CODE: A045

Effective date: 20181127