JP6703199B2 - 動作状態評価システム、動作状態評価装置、動作状態評価サーバ、動作状態評価方法、および動作状態評価プログラム - Google Patents

動作状態評価システム、動作状態評価装置、動作状態評価サーバ、動作状態評価方法、および動作状態評価プログラム Download PDF

Info

Publication number
JP6703199B2
JP6703199B2 JP2019549803A JP2019549803A JP6703199B2 JP 6703199 B2 JP6703199 B2 JP 6703199B2 JP 2019549803 A JP2019549803 A JP 2019549803A JP 2019549803 A JP2019549803 A JP 2019549803A JP 6703199 B2 JP6703199 B2 JP 6703199B2
Authority
JP
Japan
Prior art keywords
subject
motion
value
image
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019549803A
Other languages
English (en)
Other versions
JPWO2019082376A1 (ja
Inventor
一成 武市
一成 武市
武弘 田川
武弘 田川
亮太 品山
亮太 品山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Asics Corp
Original Assignee
Asics Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Asics Corp filed Critical Asics Corp
Publication of JPWO2019082376A1 publication Critical patent/JPWO2019082376A1/ja
Application granted granted Critical
Publication of JP6703199B2 publication Critical patent/JP6703199B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/75Determining position or orientation of objects or cameras using feature-based methods involving models
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0002Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network
    • A61B5/0015Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network characterised by features of the telemetry system
    • A61B5/0022Monitoring a patient using a global network, e.g. telephone networks, internet
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1116Determining posture transitions
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/112Gait analysis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1121Determining geometric values, e.g. centre of rotation or angular range of movement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1123Discriminating type of movement, e.g. walking or running
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1126Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique
    • A61B5/1128Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique using image analysis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6887Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient mounted on external non-worn devices, e.g. non-medical devices
    • A61B5/6898Portable consumer electronic devices, e.g. music players, telephones, tablet computers
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/742Details of notification to user or communication with user or patient ; user input means using visual displays
    • A61B5/744Displaying an avatar, e.g. an animated cartoon character
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B69/00Training appliances or apparatus for special sports
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/23Recognition of whole body movements, e.g. for sport training
    • G06V40/25Recognition of walking or running movements, e.g. gait recognition
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H20/00ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
    • G16H20/30ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to physical therapies or activities, e.g. physiotherapy, acupressure or exercising
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/67ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for remote operation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/7405Details of notification to user or communication with user or patient ; user input means using sound
    • A61B5/741Details of notification to user or communication with user or patient ; user input means using sound using synthesised speech
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/7455Details of notification to user or communication with user or patient ; user input means characterised by tactile indication, e.g. vibration or electrical stimulation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30221Sports video; Sports image

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Medical Informatics (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Animal Behavior & Ethology (AREA)
  • Pathology (AREA)
  • Veterinary Medicine (AREA)
  • Surgery (AREA)
  • Molecular Biology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Dentistry (AREA)
  • Physiology (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Human Computer Interaction (AREA)
  • Physical Education & Sports Medicine (AREA)
  • General Business, Economics & Management (AREA)
  • Psychiatry (AREA)
  • Business, Economics & Management (AREA)
  • Social Psychology (AREA)
  • Geometry (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Image Analysis (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Description

本発明は、動作フォーム分析システムに関する。特に、被検者の運動時のフォームを分析するシステムに関する。
従来、ランニングフォームを自動的に診断するシステムとして、身体に複数のマーカーを取り付けたランナーの動画像からマーカーの位置を認識することで、ランニングフォームを分析する技術が知られている(例えば、特許文献1,2参照)。
再表2013−129606号公報 特開2017−77403号公報
従来の動作フォーム分析技術においては、高価な特殊カメラや専用のセンサを用いなければ正確な分析ができず、個人が手軽に分析できるものではなかった。
本発明は、こうした状況に鑑みてなされたものであり、その目的は、ユーザによる簡易な操作で動作フォームを画像解析できるシステムを提供することにある。
上記課題を解決するために、本発明のある態様の動作状態評価システムは、被検者の動画像を取得する画像取得部と、動画像から被検者の体勢を画像認識する所定の体勢認識方法により被検者の複数の身体特徴点を推定する特徴推定部と、所定の基準部位の実世界における長さである基準長さを記憶する基準記憶部と、推定された複数の身体特徴点から定まる基準部位に相当する画像上の距離と基準長さとの比に基づき、被検者の動作の評価に用いる値として、複数の身体特徴点の間の画像上の距離から被検者の動作状態を示す値を求める動作解析部と、動作状態を示す値を出力する出力部と、を備える。
ここで「動作状態評価システム」は、「被検者の動画像」を取得する情報端末と「動作状態を示す値」を求めるサーバとの組合せで構成されるシステムであってもよいし、「動作状態を示す値」を求める処理を情報端末とサーバとで分担して実行するシステムであってもよい。あるいは、「被検者の動画像」の取得と「動作状態を示す値」を求める処理との双方を実行可能な情報端末だけで構成されるシステムであってもよい。「システム」を1つまたは複数の任意のハードウェアで構成してよい。「所定の体勢認識方法」は、画像から人物を抽出してその人物の体勢を認識する任意のアルゴリズムであってよい。「複数の身体特徴点」は、画像から抽出した人物の身体を構成する要素同士の連結部分や各要素の端部ないし境界点であってよい。「所定の体勢認識方法」は、画像内に写る人物の外観的状態から、人間が本来的に持つ骨格などの身体的構造の性質に基づいて、あるいは、外観的状態との位置関係の統計に基づいて、「複数の身体特徴点」の位置を推定する方法であってもよい。「所定の体勢認識方法」は、動画像に含まれる複数のフレームのそれぞれから人物の体勢を認識する方法であってもよいし、各フレーム間における外観の変化に基づいて「複数の身体特徴点」の位置的変化を推定する方法であってもよい。「所定の体勢認識方法」は、上記の各種処理を、被検者が写る動画像を多数読み込ませた深層学習等の機械学習を用いて実行する方法であってもよい。「所定の基準部位」は、動画像に写る人物またはその身体的構成要素の実世界における長さを推定する処理において基準にすべきとしてあらかじめ定められた部位であってよく、その「基準部位」の実世界における長さが「基準長さ」としてあらかじめ記憶されてよい。「長さ」は、空間における2点間の距離ないし寸法であってよい。「動作状態を示す値」は、身体特徴点の位置や身体特徴点間を結ぶ線の距離やその線同士がなす角度から求めることが可能な被検者の動作状態の値や、その動作状態の値や時間値から求めることが可能な他の動作状態の値であってよい。「動作状態」は、被検者の動きにおける体勢、例えば走行フォーム、歩行フォーム、任意のスポーツにおける運動フォームなどであってよい。「動作状態を示す値」は、運動フォームの状態を表す各種パラメータの値であってよく、例えば走っている被検者の走行速度、ストライドの幅、上下動の幅、上下動の周期から求められるピッチ、体幹の前傾角度、肩関節の可動域角度、股関節の可動域角度等であってもよい。
この態様によると、ユーザによる簡易な操作だけで、被検者の動作状態を動画像から正確に画像解析して有用な評価を提供することができる。
特徴推定部は、複数の身体特徴点として、被検者の複数の関節位置を推定し、動作解析部は、画像上で推定された所定の関節間の距離と基準長さとの比に基づいて、被検者の動作状態を示す値を求めてもよい。「関節位置」は、画像から抽出した人物の身体を構成する要素同士の連結部分であってもよく、人間が本来的に持つ骨格などの身体的構造の性質に基づいて、あるいは、外観的状態との位置関係の統計に基づいて、推定する位置であってもよい。この態様によると、被検者の関節位置から「所定の基準部位」を推定し、その「基準部位」の画像上の距離と「基準長さ」の関係から、実世界における被検者の様々な速度や長さ、角度、時間値を求め、動作状態を示す各種パラメータの値を画像解析だけでより正確に推定することができる。
基準記憶部は、基準長さとして被検者の身長を記憶し、動作解析部は、複数の身体特徴点から定まる被検者の身長分に相当する画像上の距離と身長との比に基づき、被検者の動作の評価に用いる値として、複数の身体特徴点の画像上の特徴点距離から被検者の動作状態を示す値を求めてもよい。多くのユーザは自身の正確な身長を把握しているため、身体全体を「基準部位」とし、その長さである「身長」を「基準長さ」として設定することで、容易に正確な基準長さを用いることができる。これにより、動作状態を示す値として、より正確な値を容易に求めることができる。
動作状態を示す値に基づいて被検者の動作を評価する評価処理部をさらに備えてもよい。動作状態を示す値は、被検者の運動時の所定動作の幅に基づく値を含んでもよい。基準記憶部は、複数の他の被検者の動画像を用いてあらかじめ解析して求めた運動時の所定動作の幅に基づく値と被検者の身体的状態に基づく値との間の回帰分析結果として、身体的状態に基づく値を説明変数とし所定動作の幅を目的変数とする回帰方程式および標準偏差をさらに記憶し、評価処理部は、被検者の身体的状態に基づく値を回帰方程式に代入して所定動作の幅に基づく値の仮定値を算出し、被検者の動画像から解析した所定動作の幅に基づく値と仮定値の差が標準偏差内であるか否かにしたがって被検者の動作を評価し、出力部は、評価の結果を出力してもよい。「所定動作の幅に基づく値」は、所定の運動において身体部位が移動する長さ、角度、時間間隔、およびこれらの値から求まる別の値であってよい。「被検者の身体的状態に基づく値」は、被検時において被検者が置かれた身体的な状態や被検者が持つ身体的な運動水準、運動特性、運動属性等を示す値のうち、特に回帰方程式において目的変数とする値との間で相関のある値であってよい。「身体的状態に基づく値」は、被検者の動画像から解析して得られる値であってもよく、「所定動作の幅に基づく値」に含まれるいずれかの値であってもよい。「回帰方程式」は、一つの値を説明変数とする単回帰式であってもよいし、複数の値を説明変数とする重回帰式であってもよい。例えば、ストライド幅やピッチを評価するために、複数の被検者について「被検者の身体的状態に基づく値」として身長、体重、年齢、性別、運動速度、マラソンタイムのレベル等の値を説明変数とし、その速度におけるストライド幅やピッチを目的変数とする回帰方程式および標準偏差をあらかじめ算出して回帰分析結果として記憶してもよい。ここでいう「仮定値」は、統計上の標準値、中央値、平均値、理想値であってもよい。その回帰分析結果に基づいて、あらたな被検者の身体的状態に基づく値を回帰方程式に代入して得られる仮のストライド幅やピッチを算出し、その値と動画像から推定されるストライド幅やピッチとの差が標準偏差の範囲内かどうかを求める。このように、被検者の動作状態や身体的状態に関する所定のパラメータと他のパラメータの関係から、その被検者のランニングフォーム等の動作を定量的かつ客観的に評価することができる。
動作の評価結果との対応で運動における動作に関連するアドバイス情報を記憶する情報記憶部をさらに備えてもよい。評価処理部は、被検者の動作を評価した結果に対応するアドバイス情報を情報記憶部から抽出し、出力部は、抽出されたアドバイス情報を出力してもよい。「アドバイス情報」は、被検者の動作における示唆や評価の解説、改善提案、故障リスク、参考情報を示すテキストや画像、音声であってよく、改善提案としては推奨するトレーニング内容や運動器具、運動用シューズの提案であってもよい。
本発明の別の態様は、動作状態評価装置である。この装置は、被検者の動画像を取得する画像取得部と、動画像をネットワーク経由で所定のサーバへ送信する送信部と、サーバにおいて動画像から被検者の体勢を画像認識する所定の体勢認識方法により推定された被検者の複数の身体特徴点から定まる所定の基準部位に相当する画像上の距離と、あらかじめ記憶された基準部位の実世界における長さである基準長さとの比に基づいて複数の身体特徴点の間の画像上の距離から求まる被検者の動作状態を示す値を受信する受信部と、動作状態を示す値を画面に表示する出力部と、を備える。
この態様においても、ユーザによる簡易な操作だけで、被検者の動作状態を動画像から正確に画像解析して有用な評価を提供することができる。
本発明のさらに別の態様もまた、動作状態評価装置である。この装置は、被検者の動画像を取得する画像取得部と、動画像から被検者の体勢を画像認識する所定の体勢認識方法により被検者の複数の身体特徴点を推定する特徴推定部と、所定の基準部位の実世界における長さである基準長さを記憶する基準記憶部と、推定された複数の身体特徴点から定まる基準部位に相当する画像上の距離と基準長さとの比に基づき、被検者の動作の評価に用いる値として、複数の身体特徴点の間の画像上の距離から被検者の動作状態を示す値を求める動作解析部と、動作状態を示す値を画面に表示する出力部と、を備える。
この態様においても、ユーザによる簡易な操作だけで、被検者の動作状態を動画像から正確に画像解析して有用な評価を提供することができる。
本発明のさらに別の態様は、動作状態評価サーバである。この動作状態評価サーバは、被検者の動画像をネットワーク経由で所定の情報端末から受信する受信部と、動画像から被検者の体勢を画像認識する所定の体勢認識方法により被検者の複数の身体特徴点を推定する特徴推定部と、所定の基準部位の実世界における長さである基準長さを記憶する基準記憶部と、推定された複数の身体特徴点から定まる基準部位に相当する画像上の距離と基準長さとの比に基づき、被検者の動作の評価に用いる値として、複数の身体特徴点の間の画像上の距離から被検者の動作状態を示す値を求める動作解析部と、動作状態を示す値を出力する出力部と、を備える。
この態様においても、ユーザによる簡易な操作だけで、被検者の動作状態を動画像から正確に画像解析して有用な評価を提供することができる。
本発明のさらに別の態様は、動作状態評価方法である。この方法は、被検者の動画像を取得する過程と、動画像から被検者の体勢を画像認識する所定の体勢認識方法により被検者の複数の身体特徴点を推定する過程と、推定された複数の身体特徴点から定まる所定の基準部位に相当する画像上の距離と、あらかじめ記憶された基準部位の実世界における長さである基準長さとの比に基づき、被検者の動作の評価に用いる値として、複数の身体特徴点の間の画像上の距離から被検者の動作状態を示す値を求める過程と、動作状態を示す値を出力する過程と、を備える。
この態様においても、ユーザによる簡易な操作だけで、被検者の動作状態を動画像から正確に画像解析して有用な評価を提供することができる。
なお、以上の構成要素の任意の組み合わせや、本発明の構成要素や表現を方法、装置、プログラム、プログラムを記憶した一時的なまたは一時的でない記憶媒体、システムなどの間で相互に置換したものもまた、本発明の態様として有効である。
本発明によれば、ユーザによる簡易な操作だけで、被検者の動作状態を動画像から正確に画像解析して有用な評価を提供することができる。
動作状態評価システムの構成を模式的に示す図である。 情報端末および評価サーバの基本構成を示す機能ブロック図である。 走行する被検者の動画像から複数の身体特徴点を推定した状態を模式的に示す図である。 身体的状態に基づく値に対する各種ランニングフォームパラメータの分布から求めた回帰直線および標準偏差の例を示す図である。 動作状態評価プログラムのメニュー画面例を模式的に示す図である。 動画像の解析および評価を開始する画面例を模式的に示す図である。 動画像および評価結果を表示する画面例を示す図である。 アドバイス情報を表示する画面例の図である。 図8の推奨運動情報欄に表示する推奨トレーニング内容の選択基準として定められたトレーニング選択テーブルを模式的に示す図である。 図8の推奨用具情報欄に表示する推奨シューズの選択基準として定められたシューズ選択テーブルを模式的に示す図である。 情報端末と評価サーバの間のデータフローと、動画像の解析および評価の処理過程を示すフローチャートである。 第2実施形態における情報端末および解析サーバの基本構成を示す機能ブロック図である。 情報端末と解析サーバの間のデータフローと、動画像の解析および評価の処理過程を示すフローチャートである。 第3実施形態における情報端末および解析サーバの基本構成を示す機能ブロック図である。 情報端末と解析サーバの間のデータフローと、動画像の解析および評価の処理過程を示すフローチャートである。 第4実施形態における情報端末および管理サーバの基本構成を示す機能ブロック図である。 動画像の解析および評価の処理過程を示すフローチャートである。
(第1実施形態)
図1は、動作状態評価システム10の構成を模式的に示す。動作状態評価システム10は、情報端末12と評価サーバ14を備え、動作状態評価システム10が実現する各種機能を情報端末12と評価サーバ14とが協働して実現する。本実施形態においては、被検者の動画像を取得する処理と、動作の評価結果等の画面表示処理を情報端末12が担い、動画像の解析や評価の処理を評価サーバ14が担う。情報端末12により取得された被検者の動画像は無線通信等の通信手段を介して評価サーバ14へ転送され、評価サーバ14により動画像が解析され、評価される。評価結果は情報端末12へ転送され、情報端末12の画面に表示される。情報端末12は、カメラ機能付きスマートフォンなどの携帯電話端末やカメラ機能付きタブレット端末である。変形例においては、情報端末12としてカメラ機能付きコンピュータやカメラ機器を接続したコンピュータが用いられてもよい。情報端末12および評価サーバ14において被検者の動画像を解析して評価するためのプログラム(動作状態評価プログラム)が動作することで、情報端末12は動作状態評価装置として機能し、評価サーバ14は動作状態評価サーバとして機能する。第2実施形態以降にて後述する他の形態においては、動画像の解析や評価の処理の一部を情報端末12が担うことで情報端末12と評価サーバ14に分担させる仕様としてもよいし、動画像の解析や評価の処理のすべてを情報端末12が担う仕様としてもよい。以下、本実施形態においては動画像の解析や評価の処理のすべてを評価サーバ14が担う態様を説明する。
図2は、情報端末12および評価サーバ14の基本構成を示す機能ブロック図である。情報端末12は、画像取得部20、撮像部22、データ記憶部30、データ処理部40、入力部50、出力部52、タッチパネル60、通信部62を備える。データ記憶部30は、画像記憶部24、基準記憶部32、情報記憶部34、結果記憶部36を有する。データ処理部40は、機能制御部47および画面生成部48を有する。評価サーバ14は、データ記憶部130、データ処理部140、入力部150、出力部152、通信部162を備える。データ記憶部130は、画像記憶部124、基準記憶部132、情報記憶部134、結果記憶部136を有する。データ処理部140は、特徴推定部142、動作解析部144、評価処理部146を有する。
本図は、動作状態評価システム10を実現するための機能構成を示しており、その他の構成は省略している。本図において、さまざまな処理をする機能ブロックとして記載される各要素は、ハードウェアであるカメラ、CPU、GPU、メインメモリ、その他のLSI(Large Scale Integrated circuit)で構成することができる。また、ソフトウェア的にはRAMにロードされたプログラム等をCPUが実行することによって実現される。したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、またはそれらの組み合わせによっていろいろな形で実現できることは当業者には理解されるところであり、いずれかに限定されるものではない。
画像取得部20は、被検者の動画像を取得する。画像取得部20は、撮像部22により撮影された動画像を撮像部22から取得するか、撮影済みの動画像を画像記憶部24から取得する。撮像部22は、例えば情報端末12に内蔵されたカメラまたは外部接続されたカメラである。画像記憶部24は、例えば情報端末12に内蔵された不揮発メモリまたは情報端末12に装填ないし接続された記録媒体である。画像記憶部24には、撮像部22等により撮影された静止画像および動画像が記憶される。
基準記憶部32は、動作状態評価プログラムにおいて解析の基準とする、所定の基準部位の実世界における長さである基準長さをあらかじめ記憶する。本実施形態においては、基準長さとして被検者の身長を基準記憶部32が記憶する。ユーザは、動作状態評価プログラムの使用にあたり、情報端末12のタッチパネル60を介してあらかじめ自身の身長を入力して設定する。タッチパネル60を介して入力された身長の情報は、入力部50および機能制御部47を介して基準記憶部32に記憶される。
情報記憶部34は、動作状態評価プログラムおよび動作状態評価システム10を利用するためのユーザのID(例えばメールアドレス)およびパスワードを記憶する。結果記憶部36は、後述する動画像の解析結果や評価結果が記録される。
機能制御部47は、動作状態評価プログラムを構成する各種機能を発揮させるために情報の入出力等の処理を制御する。機能制御部47は、情報記憶部34に記憶されるユーザのIDおよびパスワードに基づいて評価サーバ14へログインする。機能制御部47は、画像取得部20により取得された動画像を、評価サーバ14による解析対象として、出力部52および通信部70を介して評価サーバ14へ転送する。このとき、情報端末12のユーザ自身が被検者となる場合は基準記憶部132に記憶されたユーザの身長の情報を動画像とともに評価サーバ14へ転送する。情報端末12のユーザ以外が被検者となる場合は、機能制御部47はタッチパネル60から入力された被験者の身長の情報を動画像とともに評価サーバ14へ転送する。画面生成部48は、動作状態評価プログラムの画面表示機能として、タッチパネル60に表示させる画面を生成し、生成した画面を出力部52を介してタッチパネル60に表示させる。
入力部150は、情報端末12から送信された動画像および身長の情報を通信部162を介して受信し、動画像を画像記憶部124に一時的に保存し、身長の情報を基準記憶部132に一時的に保存する。特徴推定部142は、動画像から被検者の体勢を画像認識する所定の体勢認識方法により被検者の複数の身体特徴点を推定する。基準記憶部132は、所定の基準部位の実世界における長さである基準長さをあらかじめ記憶する。本実施形態においては、基準記憶部132は基準長さとして被検者の身長を一時的に記憶する。動作解析部144は、推定された複数の身体特徴点から定まる基準部位に相当する画像上の特徴点距離(画素単位の距離)と基準長さ(メートル単位系の長さ)との比に基づき、被検者の動作の評価に用いる値として、複数の身体特徴点の間の画像上の距離から被検者の動作状態を示す値を求める。評価処理部146は、所定の身体的状態に基づく値を所定の回帰方程式に代入してランニングフォームパラメータの仮定値を算出し、被検者の動画像から解析したランニングフォームパラメータと仮定値の差が標準偏差内であるか否かにしたがって被検者の動作を評価する。ここでいう身体的状態に基づく値は、被検時において被検者が置かれた身体的な状態や被検者が持つ身体的な運動水準、運動特性、運動属性等を示す値のうち、特に回帰方程式において目的変数とする値との間で相関のある値である。身体的状態に基づく値として、被検者の動画像から解析して得られる各種ランニングフォームパラメータのうちのいずれかの値を用いてもよい。また仮定値は、統計上の標準値、平均値、中央値であってもよい。
(身体特徴点の推定)
図3は、走行する被検者の動画像から複数の身体特徴点を推定した状態を模式的に示す。特徴推定部142は、複数の身体特徴点として、被検者の複数の関節位置、例えば四肢の関節(肩、肘、手首、股関節、膝、足首等)の位置を推定する。また特徴推定部142は、複数の身体特徴点として、関節以外の連結部分(首、骨盤、胸郭等)の位置や、先端部(頭頂部、踵等)の位置をさらに推定する。図3の例では、走行する被検者の動画像から、頭頂部203、首204、左肩205、右肩206、左肘207、右肘208、左手首209、右手首210、左股関節211、右股関節212、左膝213、右膝214、左足首215、右足首216の各位置を特徴推定部142が推定する。特徴推定部142は、本図の例のように、複数の身体特徴点を丸印で表し、身体特徴点同士を結んだ身体部位を太線で表す、いわゆるスティックピクチャーを動画像に重ね合わせることができる。
体勢認識方法としては任意の技術を用いてよい。例えば、多数の動画像に対する深層学習の結果を用いたマーカーレスモーションキャプチャにより動画像から被検者の身体特徴点を推定してもよい。深層学習を用いたマーカーレスモーションキャプチャ技術としては、例えば「DeepPose: Human Pose Estimation via Deep Neural Networks」(Alexander Toshev, Christian Szegedy)、「Convolutional Pose Machines」(Shih-En Wei, Varun Ramakrishna, Takeo Kanade, Yaser Sheikh)、「Realtime Multi-Person 2D Pose Estimation using Part Affinity Fields」(Zhe Cao, Tomas Simon, Shih-En Wei, Yaser Sheikh)が知られている。深層学習を用いないマーカーレスモーションキャプチャ技術としては、例えば「Articulated Human Pose Estimation with Flexible Mixtures of Parts」(Yi Yang and Deva Ramanan)が知られている。他の形態においては、被検者の身体の各所にマーカーやセンサを取り付けて、そのマーカーやセンサの位置を認識することで被検者の身体特徴点を推定するモーションキャプチャ技術を用いてもよい。これら各モーションキャプチャ技術は公知であるため、その詳細は説明を省略する。このように、マーカーレスモーションキャプチャ技術を用いることにより、モーションキャプチャのための特別な機材を用いることなく、スマートフォンに内蔵されたカメラのように一般に普及しているデバイスを用いて手軽に人の身体特徴点を推定することができる。
動作解析部144は、例えば、画像上で推定された所定の関節間の距離に基づく被験者の身長分に相当する画像上の距離を求める。具体的には、頭から足までの長さを推定するために、頭頂部〜首、首〜肩、肩〜股関節、股関節〜膝、膝〜足首、足首〜踵の各身体部位の画像上の距離を測定してこれらの和を算出し、これを頭頂部から踵までの画像上の身長Hとする。なお、特徴推定部142が踵の位置を推定しない場合には、頭頂部から足首までの画像上の距離の和に所定の補正係数(例えば1.05)を乗じた補正値を頭頂部から踵までの画像上の身長Hとしてもよい。あるいは、特徴推定部142が頭頂部の位置を推定しない場合には、首から踵までの画像上の距離の和に所定の補正係数(例えば1.1)を乗じた補正値を頭頂部から踵までの画像上の身長Hとするか、首から足首までの画像上の距離の和に所定の補正係数(例えば1.15)を乗じた補正値を頭頂部から踵までの画像上の身長Hとしてもよい。
(ランニングフォームパラメータの解析)
動作解析部144は、求めた画像上の身長Hと、基準記憶部132があらかじめ記憶する基準長さとしての被検者の身長の比を求め、これを画像上の距離をメートル単位系に変換する変換係数Sとする。動作解析部144は、変換係数Sに基づいて、被検者の動作状態を示す値を求める。動作状態を示す値は、例えば被験者の運動時における所定動作の幅に基づくパラメータである。本実施形態においては、動作状態を示す値として、ランニングフォームを構成するランニングフォームパラメータ(速度、ストライド、上下動の幅の他、ピッチ、体幹の前傾角度、肩関節の可動域、股関節の可動域)を求める。すなわち、動作解析部144は各種ランニングフォームパラメータの値を動画像から解析して求める。求めた値が長さの値である場合には、変換係数Sを乗じることで実世界におけるメートル単位系での値に変換する。これら動画像から解析によって求めた各種ランニングフォームパラメータの値を以下、解析値Pとする。このように、変換係数Sを用いることにより、複雑なキャリブレーション作業をせずとも単純な計算のみで簡易的に各種ランニングフォームパラメータをメートル単位系で算出することができる。
動作解析部144は、ランニングフォームパラメータを、主に走行する被検者の側方を固定撮影位置および固定撮影方向で撮影した動画像から解析する。例えば、被検者を右側方から撮影した動画像の場合は右半身の身体特徴点から解析し、被検者を左側方から撮影した動画像の場合は左半身の身体特徴点から解析する。動作解析部144は、被検者の上下動の周期において頭頂部の鉛直方向位置が極小値となったタイミングを接地タイミングと判定する。動作解析部144は、身体特徴点を認識しはじめてから初めて判定した接地タイミングを1歩目、逆足の接地タイミングを2歩目、1歩目と同じ足の次の接地タイミングを3歩目とし、1歩目から3歩目を1走行周期とする。
ここで、ランニングフォームパラメータとしての「速度」は、動画像における2点間の距離(例えば、頭部が水平方向に移動した位置の差分)を移動する速度であり、1走行周期の速度の平均値でもよい。「ストライド」は、動画像における1歩分の距離であってもよいし、1歩目から3歩目まで(1走行周期)の距離(例えば、接地足の水平方向の位置の差分)を2で割った値でもよい。「ピッチ」は、1分間の接地回数であってもよいし、1歩分の時間(ある接地から次の接地までの時間間隔)の逆数であってもよい。「上下動の幅」は、1走行周期における頭頂部の鉛直方向位置の最大値と最小値の差であってもよい。「体幹の前傾角度」は、股関節と首を結ぶ直線と鉛直線のなす角の1走行周期における平均であってもよい。「肩関節の可動域」は、肩と肘を結ぶ直線と鉛直線のなす角の1走行周期における最大値と最小値の差であってもよい。「股関節の可動域」は、股関節と膝を結ぶ直線と鉛直線のなす角の1走行周期における最大値と最小値の差であってもよい。
動作解析部144は、ランニングフォームパラメータとして、被検者を側方から撮影した場合における足の着地位置(例えば、頭頂部、股関節、膝のいずれかの基準部位を通る鉛直線に対する着地の相対的な位置)、腰の落ち込み度合い(例えば、股関節の鉛直方向位置)をさらに求めてもよい。また、ランニングフォームパラメータとして、被検者を前方から撮影した場合における頭の傾斜角度、肩の水平度合い、上体の捻れ、上体のブレ、骨盤の水平度合い、腕振り、膝の向き、足先の向き、遊脚期の太股の捻れ、振り出し脚の向き、足の着地位置、をさらに求めてもよい。また、ランニングフォームパラメータとして、被検者を後方から撮影した場合における接地パターン(前足部、中足部、後足部の接地順序)、プロネーション(過回内/過回外)、下腿の内反、蹴り出しの足先の向き、下腿の巻上げ、をさらに求めてもよい。動作解析部144および評価処理部146による解析と評価の対象となるランニングフォームパラメータの種類は、被検者の動画像が側方、前方、後方のいずれから撮影されたものであるかに応じて異なる種類のパラメータが設定される。このように、動画像から画像解析で各種ランニングフォームパラメータを求めることにより、ランニングフォームを定量的に分析することができる。
(ランニングフォームパラメータの評価)
評価処理部146は、被検者の身体的状態に基づく値を所定の回帰方程式に代入して各種ランニングフォームパラメータの仮定値Eを算出し、被検者の動画像から解析した解析値Pと仮定値Eの差が標準偏差内であるか否かにしたがって被検者の動作を評価する。解析結果および評価結果は、ユーザIDと対応づけられて結果記憶部136に記録される他、情報端末12に送信されて結果記憶部36に記録される。被検者の身体的状態に基づく値Vとして、例えば被検者の被検時における運動速度や身長等を用いる仕様の場合、基準記憶部132は、運動速度や身長等を説明変数とし、各種ランニングフォームパラメータの仮定値Eを目的変数とする回帰方程式(E=aV+b)および標準偏差SDをランニングフォームパラメータごとに記憶する。この場合、動作解析部144は、被験者の動画像から画像上の被験者の運動速度を解析するとともに、その速度に変換係数Sをかけることにより実世界における運動速度を算出してもよい。
図4は、身体的状態に基づく値に対する各種ランニングフォームパラメータの分布から求めた回帰直線および標準偏差の例を示す図である。図のように、多数の被検者からあらかじめ得られたサンプルデータの分布から回帰直線および標準偏差を割り出す。(a)は身体的状態に基づく値に対する体幹の前傾角度の回帰直線および標準偏差を示し、(b)は身体的状態に基づく値に対する股関節可動域角度の回帰直線および標準偏差を示す。身体的状態に基づく値は、例えば運動速度や身長等であり、本図の例では運動速度に対する前傾角度および股関節可動域角度の分布から回帰直線および標準偏差を求める。図示する通り、それぞれの分布から回帰方程式および標準偏差を割り出して、あらかじめ基準記憶部132に記憶させる。
評価処理部146は、解析値Pが仮定値E+標準偏差SDより大きい場合は「標準より大」と評価し、解析値Pが仮定値E−標準偏差SDより小さい場合は「標準より小」と評価し、解析値Pが仮定値E±標準偏差SDの範囲内であれば「標準」と評価する。評価処理部146は、各種ランニングフォームパラメータの解析値P、仮定値E、標準偏差SD、評価結果の情報を出力部152および通信部162を介して情報端末12へ送信する。なお、評価処理部146が情報端末12に対して解析や評価の結果としてどの情報を送信するかは様々な仕様が考え得る。例えば、評価処理部146が評価結果の表示画面自体を生成して画面のデータを情報端末12に送信する仕様でもよいし、解析値P、回帰方程式、標準偏差SDを送信して情報端末12の側で仮定値Eや標準偏差SDに基づく評価を判定させる仕様でもよい。あるいは、あらかじめ情報端末12の側に回帰方程式および標準偏差SDを記憶させておき、解析値Pのみを送信して情報端末12の側で評価を判定させる仕様でもよい。なお、変形例として、回帰分析を用いない評価方法によって被検者の解析値Pを評価する仕様としてもよい。例えば、各種ランニングフォームパラメータの統計として、性別、年齢、身長、体重等の属性別で分類した各パラメータの平均値を記憶しておき、それぞれ平均値との大小を比較することで評価を決定してもよい。
図5は、動作状態評価プログラムのメニュー画面例を模式的に示す。情報端末12のタッチパネル60の画面において、動画撮影ボタン300、撮影動画一覧ボタン302、設定ボタン304が表示される。ユーザが動画撮影ボタン300を押下(タップ)すると、撮像部22による動画撮影に移行し、撮影された動画像を画像取得部20が取得する。ユーザが撮影動画一覧ボタン302を押下すると、画像記憶部24に記憶された撮影動画が一覧表示され、その一覧から選択された動画像を画像取得部20が取得する。ユーザが設定ボタン304を押下すると、ユーザIDやパスワード、身長などを設定する画面に移行し、これらの情報を登録または変更をすることができる。
図6は、動画像の解析および評価を開始する画面例を模式的に示す。情報端末12のタッチパネル60の画面において、動画再生画面222、解析開始ボタン306、解析評価一覧ボタン308が表示される。動画再生画面222には撮影動画が再生表示される。ユーザが解析開始ボタン306を押下すると、撮影動画が評価サーバ14へ転送されて解析と評価の処理が開始される。ユーザが解析評価一覧ボタン308を押下すると、解析と評価の履歴が一覧表示され、過去の解析や評価を表示させることができる。
(動画再生画面)
図7は、動画像および評価結果を表示する画面例を示す。図7の画面は画面生成部48により生成される。画面上半分の動画再生画面222には、撮影された被検者の動画像およびその解析結果が表示される。解析結果としては、例えば動画像において頭頂部が移動した軌跡を示す上下動軌跡223の線や、被検者の頭、腕、脚の位置や角度を強調するための頭部強調線224、腕部強調線225、脚部強調線226を被検者の画像に動的に重ね合わせて表示する。このとき、図3のように、複数の身体特徴点およびそれらを結ぶ身体部位の線をスティックピクチャーとして被検者の画像に動的に重ね合わせて表示してもよい。被検者の動作や解析結果を視認しやすくするために、動画をスローモーションで再生してもよい。以上により、フォームの特徴を視覚的に把握しやすくすることができる。
(評価画面)
画面下半分の評価画面220においては、各種ランニングフォームパラメータの解析値および評価結果を表示するためのストライド表示欄230a、ピッチ表示欄230b、上下動表示欄230c、体幹前傾表示欄230d、肩関節可動域表示欄230e、股関節可動域表示欄230fが含まれる他、ランニングフォーム全体の傾向に関する評価結果を表示するための全体評価表示欄231が含まれる。
例えば、ストライド表示欄230aには、ストライドの解析値Pとして「120cm」が表示されるとともに、右側の評価ゲージ232aの右端に星印234aが表示される。評価ゲージは、左範囲、中央範囲、右範囲の3領域に分割される。中央範囲は仮定値E±1SDの「標準」範囲であり、左範囲は回帰方程式から求まる仮定値E−3SD(標準偏差の3倍)からE−1SDまでの「標準より小」範囲であり、右範囲は仮定値E+1SDからE+3SDまでの「標準より大」範囲である。星印234aが評価ゲージ232aの右端に表示されることは「標準より大」の評価を示している。
ピッチ表示欄230bには、ピッチの解析値Pとして「180/min」が表示されるとともに、右側の評価ゲージ232bの左範囲に星印234bが表示される。星印234bの位置は「標準より小」の評価を示す。上下動表示欄230cには、上下動の解析値Pとして「10cm」が表示されるとともに、右側の評価ゲージ232cの右範囲に星印234cが表示される。星印234cの位置は「標準より大」の評価を示す。体幹前傾表示欄230dには、体幹の前傾角度の解析値Pとして「7°」が表示されるとともに、右側の評価ゲージ232dの中央範囲に星印234dが表示される。星印234dの位置は「標準」の評価を示す。肩関節可動域表示欄230eには、腕の振り幅の角度範囲の解析値Pとして「60°」が表示されるとともに、右側の評価ゲージ232eの中央範囲に星印234eが表示される。星印234eの位置は「標準」の評価を示す。股関節可動域表示欄230fには、脚の振り幅の角度範囲の解析値Pとして「45°」が表示されるとともに、右側の評価ゲージ232fの右範囲に星印234fが表示される。星印234fの位置は「標準より大」の評価を示す。
ランニングフォームパラメータのうち、ストライドが「標準より大」で、ピッチが「標準より小」または「標準」の場合に、全体評価表示欄231には「ストライド型の傾向が見られます。」の評価が表示される。逆に、ストライドが「標準より小」または「標準」で、ピッチが「標準より大」の場合に、全体評価表示欄231には「ピッチ型の傾向が見られます。」の評価が表示される。このように、ユーザは、統計上の標準値、中央値、平均値との比較で自分自身のフォームの特徴を定量的かつ客観的に把握することができる。
なお、評価ゲージ232の左範囲、中央範囲、右範囲はそれぞれに異なる彩色を施して視覚的に区別容易にしてもよい。例えば、左範囲が青、中央範囲が黄色、右範囲が赤をそれぞれ中心とし、評価ゲージ232の左端から右端へ向けて色彩が徐々に変化するグラデーション表示としてもよい。これにより、フォームの特徴を視覚的に把握しやすくすることができる。評価処理部146は、故障リスクやランニングエコノミー(走行効率性)をさらに評価し、その評価結果を図7のように画面に表示させてもよい。
(故障リスク評価)
評価処理部146は、ランニングフォームパラメータに基づいて故障リスクを評価してもよい。例えば、多数の走者のランニングフォームパラメータと故障の有無に関する情報に基づいて各パラメータと故障の関係性を統計分析によってあらかじめ割り出す。すなわち、故障の有無を目的変数とし、ランニングフォームパラメータを説明変数にして、統計分析を行うことで故障のリスクを算出する故障関数を作成して、基準記憶部132に記憶させる。評価処理部146は、各種ランニングフォームパラメータの解析値Pを故障関数に代入して故障リスクの有無を評価する。これにより、動画像の画像解析をするだけでユーザは自身の故障リスクを定量的かつ容易に認知することができ、故障の未然回避に繋げることが期待できる。
(ランニングエコノミー評価)
評価処理部146は、ランニングフォームパラメータに基づいてランニングエコノミーを評価してもよい。ランニングエコノミーは、一定速度での走行に必要なエネルギーないし酸素摂取量が少ないほど高効率とする指標である。例えば、多数の走者のランニングフォームパラメータと各走者のランニングエコノミーの関係性を統計分析によってあらかじめ割り出す。すなわち、ランニングエコノミー(最大下の所定速度での走行における酸素摂取量)を目的変数とし、ランニングフォームパラメータを説明変数にして、統計分析を行うことでランニングエコノミーを算出するエコノミー関数を作成して、基準記憶部132に記憶させる。評価処理部146は、各種ランニングフォームパラメータの解析値Pをエコノミー関数に代入してランニングエコノミーを推定し、効率性を評価する。さらに、評価処理部146は、推定したランニングエコノミーに基づいてマラソンタイムを推定してもよい。例えば、多数の走者のランニングエコノミーと各走者のマラソンタイムの関係性を統計分析によってあらかじめ割り出す。すなわち、マラソンタイムを目的変数とし、ランニングエコノミー(最大下の所定速度での走行における酸素摂取量)を説明変数にして、統計分析を行うことでマラソンタイムを算出するマラソンタイム関数を作成して、基準記憶部132に記憶させる。この場合、マラソンタイム関数の説明変数にエコノミー関数を用いることで、各種ランニングフォームパラメータからマラソンタイムを推定する関数を導き出すことができる。評価処理部146は、各種ランニングフォームパラメータの解析値Pをエコノミー関数に代入して得られたランニングエコノミーの値をさらにマラソンタイム関数に代入してマラソンタイムを推定することができる。このように、動画像の画像解析をするだけでユーザは簡単に自身の効率性やマラソン推定タイムを知ることができ、効率性向上とタイム向上に資することができる。
(フォーム比較)
動画再生画面222において、被検者の動画像だけでなく、他者の動画像やユーザの過去の動画像を今回の被検者の動画像と比較可能な態様で再生表示させてもよい。例えば、手本となる模範走者の動画像およびその身体特徴点の情報を情報記憶部34または情報記憶部134に記憶させておき、被検者の動画像に代えて、もしくは被検者の動画像と並べて、模範走者の動画像とそのスティックピクチャーを再生表示する。ユーザの過去の動画像を履歴として記憶する場合、現在と過去の動画像とそのスティックピクチャーを比較可能な態様で再生してもよい。また、被検者の動画像に他者や過去の自身の動画を重ね合わせて表示してもよい。その場合、重ね合わせるいずれかの動画像を透過させてもよい。また、スティックピクチャーも重ね合わせて表示してもよいし、動画像に代わりスティックピクチャーのみを重ね合わせて表示してもよい。あるいは、動画像やスティックピクチャーの代わりに、動画エフェクトとして、アニメーションのキャラクターを重ね合わせて表示してもよい。このように、ユーザは理想的なフォームと自身のフォームを視覚的かつ容易に対比することができ、フォーム改善に資することができる。また、自身のフォームの変化を視覚的かつ容易に把握することができる。
(評価スコア比較)
評価処理部146は、解析値Pと仮定値Eの差分の標準偏差SDに対する比に基づいて評価スコアを算出することにより、評価を数値化してもよい。ランニングフォームパラメータごとに評価スコアを算出し、評価スコアの合計によって他者の評価スコアまたは過去の自分の評価スコアと比較して評価画面220に表示させてもよい。また、他者の評価スコアや過去の自分の評価スコアとの比較をランキング表示にしてもよい。このように、ユーザは自身のフォームの変化を定量的かつ容易に確認することができる。
以上のように、解析結果や評価結果は、情報端末12の画面に結果表示をすることでユーザにフィードバックされる。画面表示以外のフィードバック方法としては、評価処理部146が算出した評価スコアが低いランニングフォームパラメータについて、音声や振動によってフィードバックすることも可能である。例えば、ストライド、上下動、ピッチ、体幹の前傾角度等の各パラメータの解析値Pと仮定値Eの差分が標準偏差SDより大きい場合、ランニングのログを記録するアプリケーションプログラムにおいて、ランニング開始前やランニング中に音声フィードバックや振動フィードバックでユーザに注意喚起するといった態様である。それらの場合、例えばストライドが大きすぎると評価されたユーザには「ストライドを抑えることを意識しましょう」といったセリフの音声フィードバックを出力し、上下動が大きいと評価されたユーザには「上下動を抑えることを意識しましょう」といったセリフの音声フィードバックを出力する。例えばピッチが少なすぎる、または多すぎると評価されたユーザには、現在の走行速度に応じて最適なピッチの時間間隔にて音声や振動を起こしてユーザに理想的なピッチを認識させることができる。例えば、体幹の前傾角度が小さすぎる、または、大きすぎると評価されたユーザには、前傾角度を測定するセンサの購入および装着を勧めた上で、センサを装着してランニングをする間に前傾角度が小さすぎる、または、大きすぎる状態となったときに音声や振動を起こしてユーザに注意喚起することができる。
(アドバイス情報)
図8は、アドバイス情報を表示する画面例の図である。情報記憶部134は、動作の評価結果との対応で運動における動作に関連するアドバイス情報を記憶する。評価処理部146は、被検者の動作を評価した結果に対応するアドバイス情報を情報記憶部134から抽出する。抽出されたアドバイス情報は、出力部152および通信部162を介して情報端末12へ送信される。図8のような画面は画面生成部48によって生成される。情報端末12の画面には、改善情報欄240、推奨運動情報欄242、推奨用具情報欄244が表示される。改善情報欄240には、アドバイス情報としてランニングフォームにおいて改善すべき点の説明が表示される。推奨運動情報欄242には、アドバイス情報として推奨されるトレーニング内容の説明が表示される。推奨用具情報欄244には、アドバイス情報として推奨されるランニングシューズの説明が表示される。以上により、ユーザはランニングフォームの現状把握だけでなく、フォーム改善に向けたアドバイスとして、改善すべき点、効果的なトレーニング方法、適切な用具を把握することができ、改善を促進することができる。
図9は、図8の推奨運動情報欄242に表示する推奨トレーニング内容の選択基準として定められたトレーニング選択テーブルを模式的に示す図である。トレーニング選択テーブル250は基準記憶部132にあらかじめ記憶される。本図のトレーニング選択テーブル250には、4つの選択パターンを例示する。第1のパターンは、ストライドが「標準より小」と評価された場合に選択され、推奨トレーニングとして「トレーニングNo.1」を図8の推奨運動情報欄242に表示させる。第2のパターンは、体幹の前傾角度が「標準より大」と評価された場合に選択され、推奨トレーニングとして「トレーニングNo.2」を図8の推奨運動情報欄242に表示させる。第3のパターンは、上下動が「標準より大」と評価された場合に選択され、推奨トレーニングとして「トレーニングNo.3」を図8の推奨運動情報欄242に表示させる。第4のパターンは、腕の振り幅が「標準より小」と評価された場合に選択され、推奨トレーニングとして「トレーニングNo.4」を図8の推奨運動情報欄242に表示させる。
図10は、図8の推奨用具情報欄244に表示する推奨シューズの選択基準として定められたシューズ選択テーブルを模式的に示す図である。シューズ選択テーブル260は基準記憶部132にあらかじめ記憶される。本図のシューズ選択テーブル260には、12の選択パターンを例示する。各選択パターンには、被検者であるユーザのマラソンタイムのゾーン、通常時のランニングペースのゾーン、フォームのタイプが対応づけられており、シューズごとの推奨ランナーレベルが設定されている。例えば、第1,2のパターンにはマラソンタイムとして2時間30分未満が対応づけられ、第3,4のパターンにはマラソンタイムとして2時間30分〜3時間が対応づけられ、第5,6のパターンにはマラソンタイムとして3時間〜3時間30分が対応づけられ、第7,8のパターンにはマラソンタイムとして3時間30分〜4時間が対応づけられ、第9,10のパターンにはマラソンタイムとして4時間〜4時間30分が対応づけられ、第11,12のパターンにはマラソンタイムとして4時間30分以上が対応づけられる。ただし、ユーザがマラソン未経験の場合やマラソンタイムを失念した場合など、マラソンタイムが不明なときは通常時のランニングペースに応じて選択できるよう、通常ペースが対応づけられている。例えば、例えば、第1,2のパターンにはキロ4分未満が対応づけられ、第3,4のパターンにはキロ4〜4.5分が対応づけられ、第5,6のパターンにはキロ4.5〜5分が対応づけられ、第7,8のパターンにはキロ5〜5.5分が対応づけられ、第9,10のパターンにはキロ5.5〜6分が対応づけられ、第11,12のパターンにはキロ6分以上が対応づけられる。
第1,3,5,7のパターンは、ランニングフォームが「ストライド型」と評価された場合に対応づけられ、第2,4,6,8のパターンは、ランニングフォームが「ピッチ型」と評価された場合に対応づけられる。また、第9,11のパターンは、ランニングフォームが「オーバープロネーション」(過回内)と評価された場合に対応づけられ、第10,12のパターンは、ランニングフォームが「アンダープロネーション」(過回外、サピネーション)と評価された場合に対応づけられる。
以上の判断基準により、被検者のマラソンタイムまたは通常ペースに応じて推奨シューズのパターン候補が2つに絞られ、さらにフォームに応じて1つの推奨シューズが選択され、図8の推奨用具情報欄244に表示される。
図11は、情報端末12と評価サーバ14の間のデータフローと、動画像の解析および評価の処理過程を示すフローチャートである。まず、画像取得部20が被検者の動画像を取得し(S10)、出力部52および通信部62が動画像を評価サーバ14へ転送する(S12)。受信した動画像から特徴推定部142が複数の身体特徴点を推定し(S14)、動作解析部144が画像上の身長Hを計測し(S16)、あらかじめ記憶された被検者の身長との比により変換係数Sを算出する(S18)。動作解析部144は、各種ランニングフォームパラメータの値を動画像から解析し、長さの値には変換係数Sを乗じて解析値Pを算出する(S20)。評価処理部146は、各種ランニングフォームパラメータごとの回帰方程式に説明変数である身体的状態に基づく値を代入してパラメータごとの仮定値Eを算出し(S22)、パラメータごとの解析値Pがそれぞれの仮定値E±標準偏差SDの範囲内か否かによって評価をする(S24)。評価処理部146は、評価結果に応じてアドバイス情報を抽出し(S26)、出力部152および通信部162が解析結果、評価結果、アドバイス情報を情報端末12へ送信し(S28)、画面生成部48が生成した結果表示の画面を出力部52がタッチパネル60に表示させる(S30)。
なお、第1実施形態の変形例として、評価処理部を評価サーバ14側だけでなく情報端末12側にも設けるとともに、基準記憶部32がアドバイス情報を記憶する仕様としてもよい。その場合、評価サーバ14側の評価処理部146が各種ランニングフォームパラメータの評価を実行し、その評価結果をもとに、情報端末12側の評価処理部が評価結果に対応するアドバイス情報を情報記憶部34から抽出して画面に表示させることとしてもよい。
(第2実施形態)
図12は、第2実施形態における情報端末12および解析サーバ16の基本構成を示す機能ブロック図である。本実施形態における動作状態評価システム10は、情報端末12と解析サーバ16で構成される点と、「評価処理部」がサーバ側(解析サーバ16)ではなく情報端末12に設けられている点で、第1実施形態と相違する。以下、第1実施形態との相違点を中心に説明し、共通点の説明を省略する。
動作解析部144により解析された各種ランニングフォームパラメータの解析値Pは、出力部152および通信部162により情報端末12へ送信される。情報端末12の基準記憶部32は、運動速度や身長等の身体的状態に基づく値Vを説明変数とし、各種ランニングフォームパラメータの仮定値Eを目的変数とする回帰方程式(E=aV+b)および標準偏差SDをランニングフォームパラメータごとに記憶する。評価処理部46は、説明変数である身体的状態に基づく値を回帰方程式に代入して各種ランニングフォームパラメータの仮定値Eを算出し、評価サーバ14から送信された解析値Pと仮定値Eの差が標準偏差内であるか否かにしたがって被検者の動作を評価する。解析結果および評価結果は結果記憶部36に記録される。
情報記憶部34は、動作の評価結果との対応で運動における動作に関連するアドバイス情報を記憶する。データ処理部40は、評価処理部46、機能制御部47、画面生成部48を有する。評価処理部46は、被検者の動作を評価した結果に対応するアドバイス情報を情報記憶部34から抽出する。抽出されたアドバイス情報は、画面生成部48が生成する画面において表示される。
図13は、情報端末12と解析サーバ16の間のデータフローと、動画像の解析および評価の処理過程を示すフローチャートである。まず、画像取得部20が被検者の動画像を取得し(S10)、出力部52および通信部62が動画像を評価サーバ14へ転送する(S12)。受信した動画像から特徴推定部142が複数の身体特徴点を推定し(S14)、動作解析部144が画像上の身長Hを計測し(S16)、あらかじめ記憶された被検者の身長との比により変換係数Sを算出する(S18)。動作解析部144は、各種ランニングフォームパラメータの値を動画像から解析し、長さの値には変換係数Sを乗じて解析値Pを算出する(S20)。出力部152および通信部162が解析結果を情報端末12へ送信し(S21)、評価処理部46は、各種ランニングフォームパラメータごとの回帰方程式に説明変数である身体的状態に基づく値Vを代入してパラメータごとの仮定値Eを算出し(S22)、パラメータごとの解析値Pがそれぞれの仮定値E±標準偏差SDの範囲内か否かによって評価をする(S24)。評価処理部46は、評価結果に応じてアドバイス情報を抽出し(S26)、画面生成部48が生成した結果表示の画面を出力部52がタッチパネル60に表示させる(S30)。以上のような態様においても、特別な機材を用いることなく、スマートフォンに内蔵されたカメラのように一般に普及しているデバイスを用いた画像解析によってランニングフォームの改善を容易にすることができる。
(第3実施形態)
図14は、第3実施形態における情報端末12および解析サーバ16の基本構成を示す機能ブロック図である。本実施形態における動作状態評価システム10は、情報端末12と解析サーバ16で構成される点と、「動作解析部」および「評価処理部」がサーバ側(解析サーバ16)ではなく情報端末12に設けられている点で、第1実施形態と相違する。また、「動作解析部」がサーバ側(解析サーバ16)ではなく情報端末12に設けられている点で、第2実施形態とも相違する。以下、第1実施形態および第2実施形態との相違点を中心に説明し、共通点の説明を省略する。
特徴推定部142によって推定された複数の身体特徴点の座標データは、出力部152および通信部162により情報端末12へ送信される。情報端末12の基準記憶部32は基準長さとして被検者の身長をあらかじめ記憶する。データ処理部40は、動作解析部44、評価処理部46、機能制御部47、画面生成部48を有する。動作解析部44は、複数の身体特徴点の座標データに基づき、画像上で推定された所定の関節間の距離に基づく被験者の身長分に相当する画像上の身長Hを求める。動作解析部44は、求めた画像上の身長Hと、基準記憶部32があらかじめ記憶する基準長さとしての被検者の身長の比を求め、これを画像上の距離をメートル単位系に変換する変換係数Sとする。動作解析部44は各種ランニングフォームパラメータを動画像から解析し、長さの値に変換係数Sを乗じることで、実世界におけるメートル単位系でのランニングフォームパラメータの解析値Pを求める。
評価処理部46は、説明変数である身体的状態に基づく値Vを所定の回帰方程式に代入して各種ランニングフォームパラメータの仮定値Eを算出し、動作解析部44により算出された解析値Pと仮定値Eの差が標準偏差内であるか否かにしたがって被検者の動作を評価する。解析結果および評価結果は結果記憶部36に記録される。評価処理部46は、被検者の動作を評価した結果に対応するアドバイス情報を情報記憶部34から抽出する。抽出されたアドバイス情報は、画面生成部48が生成する画面において表示される。
図15は、情報端末12と解析サーバ16の間のデータフローと、動画像の解析および評価の処理過程を示すフローチャートである。まず、画像取得部20が被検者の動画像を取得し(S10)、出力部52および通信部62が動画像を評価サーバ14へ転送する(S12)。受信した動画像から特徴推定部142が複数の身体特徴点を推定する(S14)。出力部152および通信部162が複数の身体特徴点の座標データを情報端末12へ送信し(S15)、動作解析部44が画像上の身長Hを計測し(S16)、あらかじめ記憶された被検者の身長との比により変換係数Sを算出する(S18)。動作解析部44は、各種ランニングフォームパラメータの値を動画像から解析し、長さの値には変換係数Sを乗じて解析値Pを算出する(S20)。評価処理部46は、各種ランニングフォームパラメータごとの回帰方程式に説明変数である身体的状態に基づく値Vを代入してパラメータごとの仮定値Eを算出し(S22)、パラメータごとの解析値Pがそれぞれの仮定値E±標準偏差SDの範囲内か否かによって評価をする(S24)。評価処理部46は、評価結果に応じてアドバイス情報を抽出し(S26)、画面生成部48が生成した結果表示の画面を出力部52がタッチパネル60に表示させる(S30)。以上のような態様においても、特別な機材を用いることなく、スマートフォンに内蔵されたカメラのように一般に普及しているデバイスを用いた画像解析によってランニングフォームの改善を容易にすることができる。
(第4実施形態)
図16は、第4実施形態における情報端末12および管理サーバ18の基本構成を示す機能ブロック図である。本実施形態における動作状態評価システム10は、情報端末12と管理サーバ18で構成される点と、「特徴推定部」「動作解析部」「評価処理部」がサーバ側(管理サーバ18)ではなく情報端末12に設けられている点で、第1〜3実施形態と相違する。以下、第1〜3実施形態との相違点を中心に説明し、共通点の説明を省略する。
本実施形態においては、画像取得部20によって取得された動画像は、解析対象としてサーバ側(管理サーバ18)には転送されず、情報端末12において解析および評価が処理される。データ処理部40は、特徴推定部42、動作解析部44、評価処理部46、機能制御部47、画面生成部48を有する。特徴推定部42は、動画像から被検者の複数の身体特徴点を推定する。動作解析部44は、複数の身体特徴点の座標データに基づき、画像上で推定された所定の関節間の距離に基づく被験者の身長分に相当する画像上の身長Hを求める。動作解析部44は、求めた画像上の身長Hと、基準記憶部32があらかじめ記憶する基準長さとしての被検者の身長の比を求め、これを画像上の距離をメートル単位系に変換する変換係数Sとする。動作解析部44は各種ランニングフォームパラメータを動画像から解析し、長さの値に変換係数Sを乗じることで、実世界におけるメートル単位系でのランニングフォームパラメータの解析値Pを求める。
評価処理部46は、説明変数である身体的状態に基づく値Vを所定の回帰方程式に代入して各種ランニングフォームパラメータの仮定値Eを算出し、動作解析部44により算出された解析値Pと仮定値Eの差が標準偏差内であるか否かにしたがって被検者の動作を評価する。解析結果および評価結果は結果記憶部36に記録される。評価処理部46は、被検者の動作を評価した結果に対応するアドバイス情報を情報記憶部34から抽出する。抽出されたアドバイス情報は、画面生成部48が生成する画面において表示される。
管理サーバ18のデータ記憶部130は情報記憶部134を有する。情報記憶部134には、ユーザのIDおよびパスワードが記憶され、機能制御部47が管理サーバ18に対してログインする場合に情報記憶部134に記憶されるIDおよびパスワードと照合される。
図17は、情報端末12における動画像の解析および評価の処理過程を示すフローチャートである。まず、画像取得部20が被検者の動画像を取得し(S10)、動画像から特徴推定部42が複数の身体特徴点を推定し(S14)、動作解析部44が画像上の身長Hを計測し(S16)、あらかじめ記憶された被検者の身長との比により変換係数Sを算出する(S18)。動作解析部44は、各種ランニングフォームパラメータの値を動画像から解析し、長さの値には変換係数Sを乗じて解析値Pを算出する(S20)。評価処理部46は、各種ランニングフォームパラメータごとの回帰方程式に説明変数である身体的状態に基づく値Vを代入してパラメータごとの仮定値Eを算出し(S22)、パラメータごとの解析値Pがそれぞれの仮定値E±標準偏差SDの範囲内か否かによって評価をする(S24)。評価処理部46は、評価結果に応じてアドバイス情報を抽出し(S26)、画面生成部48が生成した結果表示の画面を出力部52がタッチパネル60に表示させる(S30)。以上のような態様においても、特別な機材を用いることなく、スマートフォンに内蔵されたカメラのように一般に普及しているデバイスを用いた画像解析によってランニングフォームの改善を容易にすることができる。
以上、本発明について実施の形態をもとに説明した。この実施の形態は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。以下変形例を示す。
上述の各実施形態においては、ランニングフォームの解析に使用する例を説明したが、変形例においては、歩行フォームの解析や、他のスポーツのフォーム解析に応用してもよい。例えば、野球やゴルフのスイングフォーム、水泳のフォーム、スキーのフォームなどである。スポーツに限らず、ダンスやパフォーマンスなどの技芸のフォームに応用してもよい。
上述の各実施形態においては、基準長さとして、被検者の身長の情報を用いる例を説明したが、変形例においては、身長以外の身体部位の長さを基準長さとしてもよい。あるいは、身体部位以外の長さ、例えば所定長の物体を被検者が身につけた状態で動画像を撮影することで、その所定長を基準長さとしてもよい。
上述の各実施形態と変形例の任意の組み合わせもまた本発明の実施形態として有用である。組み合わせによって生じる新たな実施形態は、組み合わされる実施形態および変形例それぞれの効果をあわせもつ。
10 動作状態評価システム、 12 情報端末、 14 評価サーバ、 16 解析サーバ、 18 管理サーバ、 20 画像取得部、 32 基準記憶部、 34 情報記憶部、 42 特徴推定部、 44 動作解析部、 46 評価処理部、 52 出力部、 132 基準記憶部、 134 情報記憶部、 142 特徴推定部、 144 動作解析部、 146 評価処理部、 152 出力部、 200 動画像、 202 被検者。
本発明は、被検者の運動時のフォームを分析するシステムに関する。

Claims (11)

  1. 被検者の動画像を取得する画像取得部と、
    前記動画像から被検者の体勢を画像認識する所定の体勢認識方法により被検者の複数の身体特徴点を推定する特徴推定部と、
    所定の基準部位の実世界における長さである基準長さを記憶する基準記憶部と、
    前記推定された複数の身体特徴点から定まる前記基準部位に相当する画像上の距離と前記基準長さとの比に基づき、前記被検者の動作の評価に用いる値として、前記複数の身体特徴点の間の画像上の距離から被検者の動作状態を示す値を求める動作解析部と、
    前記動作状態を示す値を出力する出力部と、
    を備えることを特徴とする動作状態評価システム。
  2. 前記特徴推定部は、前記複数の身体特徴点として、被検者の複数の関節位置を推定し、
    前記動作解析部は、画像上で推定された所定の関節間の距離と前記基準長さとの比に基づいて、被検者の動作状態を示す値を求めることを特徴とする請求項1に記載の動作状態評価システム。
  3. 前記基準記憶部は、前記基準長さとして被検者の身長を記憶し、
    前記動作解析部は、前記複数の身体特徴点から定まる被検者の身長分に相当する画像上の距離と前記身長との比に基づき、前記被検者の動作の評価に用いる値として、前記複数の身体特徴点の画像上の特徴点距離から被検者の動作状態を示す値を求めることを特徴とする請求項1または2に記載の動作状態評価システム。
  4. 前記動作状態を示す値に基づいて被検者の動作を評価する評価処理部をさらに備え、
    前記動作状態を示す値は、被検者の運動時の所定動作の幅に基づく値を含み、
    前記基準記憶部は、複数の他の被検者の動画像を用いてあらかじめ解析して求めた運動時の所定動作の幅に基づく値と被検者の身体的状態に基づく値との間の回帰分析結果として、前記身体的状態に基づく値を説明変数とし前記所定動作の幅に基づく値を目的変数とする回帰方程式および標準偏差をさらに記憶し、
    前記評価処理部は、被検者の前記身体的状態に基づく値を前記回帰方程式に代入して前記所定動作の幅に基づく値の仮定値を算出し、被検者の動画像から解析した所定動作の幅に基づく値と前記仮定値の差が前記標準偏差内であるか否かにしたがって前記被検者の動作を評価し、
    前記出力部は、前記評価の結果を出力することを特徴とする請求項1から3のいずれかに記載の動作状態評価システム。
  5. 動作の評価結果との対応で前記運動における動作に関連するアドバイス情報を記憶する情報記憶部をさらに備え、
    前記評価処理部は、前記被検者の動作を評価した結果に対応するアドバイス情報を前記情報記憶部から抽出し、
    前記出力部は、前記抽出されたアドバイス情報を出力することを特徴とする請求項4に記載の動作状態評価システム。
  6. 被検者の動画像を取得する画像取得部と、
    所定の基準部位の実世界における長さである基準長さを記憶する基準記憶部と、
    前記動画像から被検者の体勢を画像認識する所定の体勢認識方法により推定された前記被検者の複数の身体特徴点から定まる前記基準部位に相当する画像上の距離と前記基準長さとの比に基づき、前記被検者の動作の評価に用いる値として、前記複数の身体特徴点の間の画像上の距離から被検者の動作状態を示す値を求める動作解析部と、
    前記動作状態を示す値を画面に表示する出力部と、
    を備えることを特徴とする動作状態評価装置。
  7. 被検者の動画像を取得する画像取得部と、
    前記動画像から被検者の体勢を画像認識する所定の体勢認識方法により被検者の複数の身体特徴点を推定する特徴推定部と、
    所定の基準部位の実世界における長さである基準長さを記憶する基準記憶部と、
    前記推定された複数の身体特徴点から定まる前記基準部位に相当する画像上の距離と前記基準長さとの比に基づき、前記被検者の動作の評価に用いる値として、前記複数の身体特徴点の間の画像上の距離から被検者の動作状態を示す値を求める動作解析部と、
    前記動作状態を示す値を画面に表示する出力部と、
    を備えることを特徴とする動作状態評価装置。
  8. 被検者の動画像をネットワーク経由で所定の情報端末から受信する受信部と、
    前記動画像から被検者の体勢を画像認識する所定の体勢認識方法により被検者の複数の身体特徴点を推定する特徴推定部と、
    所定の基準部位の実世界における長さである基準長さを記憶する基準記憶部と、
    前記推定された複数の身体特徴点から定まる前記基準部位に相当する画像上の距離と前記基準長さとの比に基づき、前記被検者の動作の評価に用いる値として、前記複数の身体特徴点の間の画像上の距離から被検者の動作状態を示す値を求める動作解析部と、
    前記動作状態を示す値を出力する出力部と、
    を備えることを特徴とする動作状態評価サーバ。
  9. 画像取得部が被検者の動画像を取得する過程と、
    特徴推定部が前記動画像から被検者の体勢を画像認識する所定の体勢認識方法により被検者の複数の身体特徴点を推定する過程と、
    動作解析部が、前記推定された複数の身体特徴点から定まる所定の基準部位に相当する画像上の距離と、あらかじめ記憶された前記基準部位の実世界における長さである基準長さとの比に基づき、前記被検者の動作の評価に用いる値として、前記複数の身体特徴点の間の画像上の距離から被検者の動作状態を示す値を求める過程と、
    出力部が前記動作状態を示す値を出力する過程と、
    を備えることを特徴とする動作状態評価方法。
  10. 被検者の動画像を所定の撮像手段を介して取得する過程と、
    前記動画像をネットワーク経由で所定のサーバへ送信する過程と、
    前記サーバにおいて前記動画像から被検者の体勢を画像認識する所定の体勢認識方法により推定された前記被検者の複数の身体特徴点から定まる所定の基準部位に相当する画像上の距離と、あらかじめ記憶された前記基準部位の実世界における長さである基準長さとの比に基づいて前記複数の身体特徴点の間の画像上の距離から求まる被検者の動作状態を示す値をネットワーク経由で受信する過程と、
    前記動作状態を示す値を画面に表示する過程と、
    を備えることを特徴とする動作状態評価プログラム。
  11. 被検者の動画像を所定の撮像手段を介して取得する過程と、
    プロセッサの処理で前記動画像から被検者の体勢を画像認識する所定の体勢認識方法により被検者の複数の身体特徴点を推定する過程と、
    所定の基準部位の実世界における長さである基準長さを所定の記憶媒体から読み出す過程と、
    前記推定された複数の身体特徴点から定まる前記基準部位に相当する画像上の距離と前記基準長さとの比に基づき、前記被検者の動作の評価に用いる値として、前記複数の身体特徴点の間の画像上の距離から被検者の動作状態を示す値をプロセッサの処理で求める過程と、
    前記動作状態を示す値を画面に表示する過程と、
    を備えることを特徴とする動作状態評価プログラム。
JP2019549803A 2017-10-27 2017-10-27 動作状態評価システム、動作状態評価装置、動作状態評価サーバ、動作状態評価方法、および動作状態評価プログラム Active JP6703199B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/038909 WO2019082376A1 (ja) 2017-10-27 2017-10-27 動作状態評価システム、動作状態評価装置、動作状態評価サーバ、動作状態評価方法、および動作状態評価プログラム

Publications (2)

Publication Number Publication Date
JPWO2019082376A1 JPWO2019082376A1 (ja) 2020-04-23
JP6703199B2 true JP6703199B2 (ja) 2020-06-03

Family

ID=66246354

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019549803A Active JP6703199B2 (ja) 2017-10-27 2017-10-27 動作状態評価システム、動作状態評価装置、動作状態評価サーバ、動作状態評価方法、および動作状態評価プログラム

Country Status (5)

Country Link
US (1) US11182599B2 (ja)
EP (1) EP3703009A4 (ja)
JP (1) JP6703199B2 (ja)
CN (1) CN111263953B (ja)
WO (1) WO2019082376A1 (ja)

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6703199B2 (ja) * 2017-10-27 2020-06-03 株式会社アシックス 動作状態評価システム、動作状態評価装置、動作状態評価サーバ、動作状態評価方法、および動作状態評価プログラム
WO2019127108A1 (en) * 2017-12-27 2019-07-04 Intel Corporation Key-point guided human attribute recognition using statistic correlation models
US20190259475A1 (en) * 2018-02-20 2019-08-22 SameDay Security, Inc. Connected Kiosk for the Real-Time Assessment of Falls Risk
US11557215B2 (en) * 2018-08-07 2023-01-17 Physera, Inc. Classification of musculoskeletal form using machine learning model
JP2020174910A (ja) * 2019-04-18 2020-10-29 株式会社Sportip 運動支援システム
CN113728394A (zh) 2019-05-21 2021-11-30 史密夫和内修有限公司 身体活动执行和训练的评分度量
JP7388441B2 (ja) * 2019-09-20 2023-11-29 日本電気株式会社 情報生成装置、情報生成方法、及び、プログラム
JP7492722B2 (ja) * 2019-09-26 2024-05-30 株式会社Sportip 運動評価システム
US11024053B1 (en) * 2019-12-20 2021-06-01 NEX Team Inc. User analytics using a mobile device camera and associated systems and methods
JP2021115471A (ja) * 2020-01-21 2021-08-10 Posen株式会社 姿勢診断システム、姿勢診断方法及び姿勢診断用データセット
JPWO2021172459A1 (ja) * 2020-02-28 2021-09-02
US20230172491A1 (en) * 2020-05-05 2023-06-08 Stephen GROSSERODE System and method for motion analysis including impairment, phase and frame detection
JP7459679B2 (ja) * 2020-06-23 2024-04-02 富士通株式会社 行動認識方法、行動認識プログラム及び行動認識装置
JP7056708B2 (ja) * 2020-09-23 2022-04-19 カシオ計算機株式会社 情報処理装置、情報処理方法及びプログラム
JP7302699B2 (ja) * 2020-09-23 2023-07-04 カシオ計算機株式会社 情報処理装置、情報処理方法及びプログラム
CN112288766B (zh) * 2020-10-28 2024-05-28 中国科学院深圳先进技术研究院 运动评估方法、装置、系统及存储介质
WO2022137496A1 (ja) * 2020-12-25 2022-06-30 株式会社アシックス 運動動作分析システム、運動動作分析方法および運動動作分析プログラム
US20240050805A1 (en) * 2020-12-25 2024-02-15 Asics Corporation Exercise motion analysis system, exercise motion analysis method, and exercise motion analysis program
WO2022168252A1 (ja) * 2021-02-05 2022-08-11 日本電信電話株式会社 身長推定方法、身長推定装置及びプログラム
CN114005199B (zh) * 2021-10-26 2022-10-11 珠海格力电器股份有限公司 一种门锁控制方法、装置、电子设备及存储介质
US20230360238A1 (en) * 2021-10-27 2023-11-09 Qioptiq Limited Passive range finder and associated method
CN114533040B (zh) * 2022-01-12 2024-04-09 北京京仪仪器仪表研究总院有限公司 一种固定空间内人员特定活跃度的监测方法
JP2024041106A (ja) * 2022-09-14 2024-03-27 カシオ計算機株式会社 運動評価方法、情報処理装置、運動評価システム及びプログラム
TWI818797B (zh) * 2022-11-08 2023-10-11 國立勤益科技大學 運動體能檢定系統
CN117373618A (zh) * 2023-10-23 2024-01-09 广州景腾医疗科技股份有限公司 一种用于分析仪的局部人体成分数据处理方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009020897A (ja) * 2002-09-26 2009-01-29 Toshiba Corp 画像解析方法、画像解析装置、画像解析プログラム
JP4007899B2 (ja) 2002-11-07 2007-11-14 オリンパス株式会社 運動検出装置
US7827000B2 (en) 2006-03-03 2010-11-02 Garmin Switzerland Gmbh Method and apparatus for estimating a motion parameter
CN103210421B (zh) * 2010-12-09 2016-03-02 松下电器产业株式会社 物体检测装置及物体检测方法
KR101815975B1 (ko) * 2011-07-27 2018-01-09 삼성전자주식회사 객체 자세 검색 장치 및 방법
US9452341B2 (en) * 2012-02-29 2016-09-27 Mizuno Corporation Running form diagnosis system and method for scoring running form
JP6255309B2 (ja) * 2014-06-12 2017-12-27 東芝テック株式会社 情報処理装置および報知システム
JP2016034482A (ja) * 2014-07-31 2016-03-17 セイコーエプソン株式会社 運動解析装置、運動解析方法、運動解析プログラム及び運動解析システム
JP6163635B2 (ja) * 2015-10-21 2017-07-19 国立大学法人 筑波大学 評価情報提供システムおよび評価情報提供方法
CN106027796B (zh) 2016-06-30 2019-11-05 京东方科技集团股份有限公司 一种信息处理方法、终端及跑鞋
CN106709663B (zh) * 2017-01-03 2020-12-01 武汉大学 一种基于城市影像资料确定洪水中人体稳定性的方法
JP6703199B2 (ja) * 2017-10-27 2020-06-03 株式会社アシックス 動作状態評価システム、動作状態評価装置、動作状態評価サーバ、動作状態評価方法、および動作状態評価プログラム
CN109960962B (zh) * 2017-12-14 2022-10-21 腾讯科技(深圳)有限公司 图像识别方法、装置、电子设备以及可读存储介质
EP3909504A3 (en) * 2018-05-28 2022-03-09 Kaia Health Software GmbH Monitoring the performance of physical exercises
EP3900885A4 (en) * 2018-12-21 2022-09-28 LG Electronics Inc. METHOD OF ROBOT CONTROL
WO2020150327A1 (en) * 2019-01-15 2020-07-23 Shane Yang Augmented cognition methods and apparatus for contemporaneous feedback in psychomotor learning
JP7107264B2 (ja) * 2019-03-20 2022-07-27 トヨタ自動車株式会社 人等の身体動作推定システム

Also Published As

Publication number Publication date
WO2019082376A1 (ja) 2019-05-02
JPWO2019082376A1 (ja) 2020-04-23
US11182599B2 (en) 2021-11-23
CN111263953A (zh) 2020-06-09
EP3703009A4 (en) 2021-06-23
US20200250408A1 (en) 2020-08-06
EP3703009A1 (en) 2020-09-02
CN111263953B (zh) 2024-03-01

Similar Documents

Publication Publication Date Title
JP6703199B2 (ja) 動作状態評価システム、動作状態評価装置、動作状態評価サーバ、動作状態評価方法、および動作状態評価プログラム
JP7067561B2 (ja) 採点方法、採点プログラムおよび採点装置
US10463909B2 (en) System and method for using performance signatures
US20180133551A1 (en) System and method for personalized exercise training and coaching
CN103596626B (zh) 跑步方式诊断系统以及跑步方式的打分方法
CN104126185A (zh) 疲劳指数及其用途
CN104274182A (zh) 动作信息处理装置以及方法
TW201411507A (zh) 動作比對方法與動作比對系統
KR102320960B1 (ko) 사용자 신체 맞춤형 홈 트레이닝 동작 안내 및 교정 시스템
US20230245366A1 (en) 3d avatar generation using biomechanical analysis
US20230267768A1 (en) Quantitative, biomechanical-based analysis with outcomes and context
JP6633875B2 (ja) エクササイズメニュー提供システムおよびエクササイズメニュー提供方法
US20230355135A1 (en) Intelligent gait analyzing apparatus
Pearson Kinematics and kinetics of the taekwon-do turning kick
Hanley Gait alterations during constant pace treadmill racewalking
Kaichi et al. Estimation of center of mass for sports scene using weighted visual hull
JP2018187284A (ja) 運動状態診断システムおよび運動状態診断プログラム
CN109765998B (zh) 基于vr和动作捕捉的运动评估方法、设备及存储介质
Matsuda et al. A practical estimation method for center of mass velocity in swimming direction during front crawl swimming
KR102400638B1 (ko) 실시간 골프 스윙 동작 분석 장치 및 그 방법
JPWO2018207388A1 (ja) モーションキャプチャに関するプログラム、装置および方法
JP2022552785A (ja) 定量化された運動のフィードバックシステム
TWI784243B (zh) 跆拳道品勢動作偵測與比對方法
US20160249834A1 (en) Range of motion capture
CN118172833A (zh) 一种对羽毛球运动中运动损伤进行筛查的方法、装置及设备

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200114

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200114

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20200114

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20200227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200303

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200401

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200407

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200507

R150 Certificate of patent or registration of utility model

Ref document number: 6703199

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150