JP6813086B2 - 演技表示プログラム、演技表示方法および演技表示装置 - Google Patents

演技表示プログラム、演技表示方法および演技表示装置 Download PDF

Info

Publication number
JP6813086B2
JP6813086B2 JP2019518620A JP2019518620A JP6813086B2 JP 6813086 B2 JP6813086 B2 JP 6813086B2 JP 2019518620 A JP2019518620 A JP 2019518620A JP 2019518620 A JP2019518620 A JP 2019518620A JP 6813086 B2 JP6813086 B2 JP 6813086B2
Authority
JP
Japan
Prior art keywords
angle
scoring
joint
performer
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019518620A
Other languages
English (en)
Other versions
JPWO2018211571A1 (ja
Inventor
和己 久保田
和己 久保田
松本 剛
松本  剛
清水 智
智 清水
内藤 宏久
宏久 内藤
拓哉 増田
拓哉 増田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Publication of JPWO2018211571A1 publication Critical patent/JPWO2018211571A1/ja
Application granted granted Critical
Publication of JP6813086B2 publication Critical patent/JP6813086B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/7715Feature extraction, e.g. by transforming the feature space, e.g. multi-dimensional scaling [MDS]; Mappings, e.g. subspace methods
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B71/00Games or sports accessories not covered in groups A63B1/00 - A63B69/00
    • A63B71/06Indicating or scoring devices for games or players, or for other sports activities
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/23Recognition of whole body movements, e.g. for sport training
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B2230/00Measuring physiological parameters of the user
    • A63B2230/62Measuring physiological parameters of the user posture
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Software Systems (AREA)
  • Physical Education & Sports Medicine (AREA)
  • Artificial Intelligence (AREA)
  • Medical Informatics (AREA)
  • Evolutionary Computation (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Human Computer Interaction (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Processing Or Creating Images (AREA)
  • Image Analysis (AREA)

Description

本発明は、演技表示プログラム、演技表示方法および演技表示装置に関する。
従来から、選手が一連の技を行って審判が採点する競技などでは、より高難易度の技の成功や完成度が、高得点や高順位に大きな影響を与える。例えば、男子が6種目、女子が4種目で構成され、男女跳馬以外の種目では技を10個以上連続して行うことで1つの演技が構成される。採点規則では、技の種類、グループ、数、実施に対して基準が定められており、それぞれの技には点数を決定する基準が設定されている。競技の採点は選手の演技の終了の後、審判により短時間で行われる。
近年では、3Dセンシングを用いて人の姿勢や動きなどの情報を取得し、スポーツ選手などを支援する技術が知られている。例えば、練習中に、体操選手が技を行ったときの動き等を取得し、技の完成度などを確認することに利用されている。
特開2010−264088号公報
しかしながら、専門家である審判であっても、選手の関節角度を正確に確認し、種目や技ごとに定められた採点規則に則って、演技の採点を行うことが難しいので、個々の審判によって採点にバラツキが生じる。
例えば、体操選手の身体は3次元的に複雑な動作をしており、また、選手ごとに体格や技の動きが異なる。このため、ある技が採点規則に則って正確に実施されたことを、短時間に判断して採点をすることは、審判員資格をもっている審判にとっても容易なことではない。このようなことから、個別の技の点数は審判によりばらつく場合もあり、定められた方法で選手側から審判に異議申立て(問合せ)をすることにより、点数の詳細な再判定がなされる場合がある。
一つの側面では、採点規則に則って統一的な採点を行うための情報を提供することができる演技表示プログラム、演技表示方法および演技表示装置を提供することを目的とする。
第1の案では、演技表示プログラムは、コンピュータに、演技者の演技画像から前記演技者の関節の位置を特定する処理を実行させる。演技表示プログラムは、コンピュータに、競技種目の技の採点に用いられる関節がなす角度を算出するための算出式に関する算出情報と、特定された前記演技者の関節の位置とを用いて、前記角度を算出する処理を実行させる。演技表示プログラムは、コンピュータに、前記演技画像と、前記演技画像上に前記角度を表示させた採点用画像とを比較可能に表示する処理を実行させる。
一実施形態によれば、採点規則に則って統一的な採点を行うための情報を提供することができる。
図1は、実施例1にかかる映像再生装置を説明する図である。 図2は、実施例1にかかる映像再生装置の機能構成を示す機能ブロック図である。 図3は、関節定義データDBに記憶される情報の例を示す図である。 図4は、関節位置データDBに記憶される情報の例を示す図である。 図5は、映像データDBに記憶される情報の例を示す図である。 図6は、採点ルールDBに記憶される情報の例を示す図である。 図7は、計算式DBに記憶される情報の例を示す図である。 図8は、あん馬の終末局面(正面維持)の関節角度の算出例を示す図である。 図9は、吊り輪のほん転逆上がり中水平支持の関節角度の算出例を示す図である。 図10は、出力画面の表示例を示す図である。 図11は、拡大表示の表示例を説明する図である。 図12は、減点の表示例を示す図である。 図13は、事前処理の流れを示すフローチャートである。 図14は、関節位置の登録処理の流れを示すフローチャートである。 図15は、比較表示処理の流れを示すフローチャートである。 図16は、関節のなす角度の表示処理の流れを示すフローチャートである。 図17は、ハードウェア構成例を示す図である。
以下に、本発明にかかる演技表示プログラム、演技表示方法および演技表示装置の実施例を図面に基づいて詳細に説明する。なお、この実施例によりこの発明が限定されるものではない。また、各実施例は矛盾のない範囲内で適宜組み合わせることができる。
[映像再生装置の説明]
図1は、実施例1にかかる映像再生装置10を説明する図である。図1に示す映像再生装置10は、サーバ、タブレット端末、スマートフォンなどのコンピュータの一例であり、演技表示装置の一例である。映像再生装置10は、3D(Three Dimensions)レーザセンサを用いて、選手の関節の動きや位置を立体的かつ時系列に特定し、関節位置データとして関節表に予め保持する。また、映像再生装置10は、競技種目ごとの採点規則をルール化してデータベースに登録し、技の種類、技の採点に用いられる関節と角度、角度逸脱による減点などを指標化しておく。
このような映像再生装置10は、競技終了後の発表された採点に対して異議が申し立てられた場合に、審判が映像を見て採点を確認して再判定を実行するときなどに使用される。具体的には、映像再生装置10は、競技種目の技の採点に用いられる関節がなす角度を算出するための算出式に関する算出情報を記憶する。そして、映像再生装置10は、ビデオカメラで撮影した演技者の演技映像のうち指定された特定フレームである演技画像から演技者の関節の位置を特定する。続いて、映像再生装置10は、特定された演技者の関節の位置と算出情報を用いて関節のなす角度を算出し、演技映像内で指定された演技画像と、演技画像上に角度を表示させた採点画像とを比較可能に表示する。
つまり、映像再生装置10は、3Dレーザセンサによる3Dセンシングによって、演技者の姿勢や動きを把握したうえで、演技中の各関節の動きや位置を単に可視化するだけでなく、採点規則に従ってその技の実施を採点する際に判断に寄与する情報を審判に対して提示する。この結果、映像再生装置10は、採点規則に則って統一的な採点を行うための情報を提供することができる。
[機能構成]
図2は、実施例1にかかる映像再生装置10の機能構成を示す機能ブロック図である。図2に示すように、映像再生装置10は、通信部11、記憶部12、制御部20を有する。
通信部11は、他の装置との通信を制御する通信インタフェースなどである。例えば、通信部11は、ビデオカメラによって撮影された演技映像を受信し、ビデオカメラによって撮影された演技映像を受信する。また、通信部11は、3Dレーザセンサによる3Dセンシングの結果である関節位置データを受信する。また、通信部11は、管理者端末などから採点ルールを受信する。
記憶部12は、プログラムやデータを記憶する記憶装置の一例であり、例えばメモリやハードディスクなどである。記憶部12は、関節定義データDB13、関節位置データDB14、映像データDB15、採点ルールDB16、計算式DB17を記憶する。なお、計算式DB17は、採点記憶部の一例である。
関節定義データDB13は、骨格モデル上の各関節を特定するための定義情報を記憶するデータベースである。ここで記憶される定義情報は、3Dレーザセンサによる3Dセンシングによって演技者ごとに測定してもよく、一般的な体系の骨格モデルを用いて定義してもよい。
図3は、関節定義データDB13に記憶される情報の例を示す図である。図3に示すように、関節定義データDB13は、公知の骨格モデルで特定される各関節をナンバリングした情報を記憶する。例えば、図3に示すように、右肩関節(SHOULDER_RIGHT)には7番が付与され、左肘関節(ELBOW_LEFT)には5番が付与され、左膝関節(KNEE_LEFT)には11番が付与され、右股関節(HIP_RIGHT)には14番が付与される。ここで、実施例では、8番の右肩関節のX座標をX8、Y座標をY8、Z座標をZ8と記載する場合がある。なお、点線の数字は、骨格モデルから特定されても、採点には利用されない関節等である。
関節位置データDB14は、演技者の映像データから取得される各関節の位置データであり、関節位置データの時系列の変化を記憶するデータベースである。図4は、関節位置データDB14に記憶される情報の例を示す図である。図4に示すように、関節位置データDB14は、「記録ID、時刻、X0、Y0、Z0、・・・、X17、Y17、Z17」を対応付けて記憶する。ここで記憶される「記録ID」は、映像データを識別する情報であり、「時刻」は、関節の位置情報が特定された時刻である。「X0、Y0、Z0、・・・、X17、Y17、Z17」は、各関節のXYZ座標であり、「X0、Y0、Z0」は、図3に示す0番号の関節の座標である。
図4は、001番の映像データにおける各関節の時系列の変化を示しており、時刻「00:00:00」では、各関節の位置が「X0=100、Y0=20、Z0=0、・・・、X17=200、Y17=40、Z17=5」あることを示す。そして、時刻「00:00:33」では、各関節の位置が「X0=101、Y0=25、Z0=5、・・・、X17=202、Y17=39、Z17=15」へ移動したことを示す。
映像データDB15は、演技者の映像データを記憶するデータベースである。図5は、映像データDB15に記憶される情報の例を示す図である。図5に示すように、映像データDB15は、「記録ID、種目、選手ID、時間、映像ファイル」を対応付けて記憶する。ここで記憶される「記録ID」は、映像データを識別する情報であり、「種目」は、ビデオカメラで撮影した演技者の種目を示し、「選手ID」は、演技者を識別する情報であり、「時間」は、演技時間を示す情報であり、「映像ファイル」は、映像データを特定する情報である。図5の場合、記録IDが「001」の映像ファイル「001_あん馬_1122.mp4」は、選手ID「1122」の選手が演技した「あん馬」の映像データであり、「10分99秒」の演技データであることを示す。
採点ルールDB16は、種目ごとの採点ルールを記憶するデータベースである。図6は、採点ルールDB16に記憶される情報の例を示す図である。図6に示すように、採点ルールDB16は、「採点ルールID、種目、動作、採点対象、閾値(小欠点、中欠点、大欠点)、減点(小欠点、中欠点、大欠点)」を対応付けて記憶する。
ここで記憶される「採点ルールID」は、採点ルールを識別する情報である。「種目」は、採点対象の種目を特定する情報である。「動作」は、採点対象の動作を特定する情報である。「採点対象」は、採点対象となる角度の算出対象の技名や採点項目などを特定する情報である。「閾値(小欠点、中欠点、大欠点)」は、減点対象となる角度の閾値を示す情報である。「減点(小欠点、中欠点、大欠点)」は、減点内容を示す情報である。
図6の場合、採点ルールID「001001」は、「あん馬」の「縦向き旋回」における「終末局面」での「角度逸脱」が採点対象であることを示す。この例では、角度が15°(15度)から30°の範囲では減点「0.1」、角度が31°から45°の範囲では減点「0.3」、角度が45°より大きい場合は、減点「0.5」と判定されることを示す。
計算式DB17は、採点対象となる関節間の角度、すなわち関節のなす角度の計算式を記憶するデータベースである。図7は、計算式DB17に記憶される情報の例を示す図である。図7に示すように、計算式DB17は、「採点ルールID、計算式、基準座標、表示面、計測回数」を対応付けて記憶する。ここで記憶される「採点ルールID」は、採点ルールを識別する情報である。「計算式」は、採点対象となる角度の計算式である。「基準座標」は、角度を表示するときの基準となる座標である。「表示面」は、算出した角度を表示する面である。「計測回数」は、1回の採点で算出する回数である。
図7の例では、採点ルールID「001001」では、基準座標が2番の関節であり、旋回の方向が時計回り(CW)と反時計回り(CCW)の場合で「flag」の値が動的に変更することを示す。また、表示するときはXY平面上に表示し、計測回数が1回であることを示す。
また、採点ルールID「002001」では、基準座標が9番の関節であり、θの最大値と最小値(静止姿勢)との差が採点対象であることを示す。また、θの最大値と最小値(静止姿勢)を計算することから、計測回数が2回であり、表示するときはYZ平面上に表示することを示す。
制御部20は、映像再生装置10全体を司る処理部であり、例えばプロセッサなどである。制御部20は、事前処理部21、関連付け部22、比較表示部23、角度算出部24を有する。なお、事前処理部21、関連付け部22、比較表示部23、角度算出部24は、プロセッサなどの電子回路の一例やプロセッサが実行するプロセスの一例である。なお、角度算出部24は、特定部と算出部の一例であり、比較表示部23は、表示制御部の一例である。
事前処理部21は、関節の定義情報を事前に取得する処理部である。具体的には、事前処理部21は、3Dレーザセンサによる3Dセンシングによって演技者の関節を測定する。そして、事前処理部21は、一般的な骨格モデルにしたがって、演技者の関節をナンバリングして関節位置データDB14に格納する。
また、事前処理部21は、ビデオカメラを用いて撮影した演技者の演技映像を取得して、映像データとして記憶部12に格納する。また、事前処理部21は、ビデオカメラを用いて撮影される演技に対して、3Dレーザセンサによる3Dセンシングを実行して、演技者の関節位置データの時系列の変化を取得して記憶部12に格納する。
関連付け部22は、演技映像と演技中の関節位置データとを関連付ける処理部である。例えば、関連付け部22は、事前処理部21によって取得された映像データと、その映像データから取得した演技者の関節位置データとを対応付ける記録IDを付与する。その後、関連付け部22は、記録IDと映像データを特定する情報とを関連付けて映像データDB15に格納し、記録IDと関節位置データとを関連付けて関節位置データDB14に格納する。
比較表示部23は、演技の映像データとその映像データにおける関節位置データとを比較可能に表示する処理部である。具体的には、比較表示部23は、映像データを各フレーム(演技画像)に分割して表示する。さらに、比較表示部23は、各フレームに対応する関節位置データを関節位置データDB14から取得して、骨格モデルに当てはめて3Dモデルに生成し、生成した3Dモデルを表示する。つまり、比較表示部23は、映像データを構成する複数のフレームのうち、審判などが選択した特定のフレームとその時の演技者の関節位置データの3Dモデルとを並べて表示する。
角度算出部24は、選択されたフレームに対応する演技者の関節位置データの3Dモデルに対して、採点対象となる角度を算出して、3Dモデル上に表示させる処理部である。具体的には、角度算出部24は、選択されたフレームの種目を映像データDB15から特定し、特定された種目に対応する採点ルールを採点ルールDB16から特定する。ここで、角度算出部24は、複数の採点ルールが特定された場合は、審判などにどの採点ルールを適用するかを選択させる。そして、角度算出部24は、選択された採点ルールに対応する計算式を計算式DB17から特定し、特定した計算式を用いて、採点対象の角度を算出する。
例えば、角度算出部24は、採点ルール「001001」が選択された場合、図7の1行目の計算式を用いて角度を算出する。この計算式で算出される角度では、あん馬の縦向き旋回時の「終末局面」における胸と腰の位置から得られる角度であり、関節番号2の座標と関節番号0の座標とから算出される。そして、角度算出部24は、3Dモデル上のXY平面に、算出した角度を表示させる。
図8は、あん馬の終末局面(正面維持)の関節角度の算出例を示す図である。図8に示す例は、縦向き支持を基準とする。図8の(a)に示すように、終末局面において採点対象となす関節の角度は、胸(関節番号2)と腰(関節番号0)を結んだ直線があん馬の土台Aの水平方向となす角度θである。この角度θは、図7の1行目の計算式によって算出される。そして、この角度θが15°よりも小さい場合は、欠点無しと判定されて減点も0となり(図8の(b))、角度θが15°から30°の間の場合は、小欠点と判定されて減点が0.1点と判定され(図8の(c))、角度θが31°から45°の間の場合は、中欠点と判定されて減点が0.3点と判定され(図8の(d))、角度θが45°よりも大きい場合は、大欠点と判定されて減点が0.5点と判定される(図8の(e))。
別例を説明すると、角度算出部24は、採点ルール「002001」が選択された場合、図7の2行目の計算式を用いて角度を算出する。この計算式で算出される角度では、吊り輪の振動から静止姿勢における「肩位置」の最大角度と最小角度(静止姿勢)との差分であり、関節番号9の座標と関節番号7の座標とから算出される。そして、角度算出部24は、3Dモデル上のYZ平面に、算出した角度を表示させる。
図9は、吊り輪のほん転逆上がり中水平支持の関節角度の算出例を示す図である。図9に示すように、吊り輪のほん転逆上がり中水平支持において採点対象となる関節の角度θは、右肩(関節番号9)と右手(関節番号7)を結んだ直線が地面の水平方向(Y方向)となす角度である。この角度θは、図7の2行目の計算式によって算出される。図7の2行目に示すように、角度θの計算回数は2回となる。これは、最大角度と最小角度との差が採点対象となるからである。
つまり、角度算出部24は、審判が最大角度の判定対象として指定したフレームから最大角度θを算出し、審判が静止姿勢の判定対象として指定したフレームから静止時の角度θを算出する。そして、これらの差分が採点対象となる。例えば、最大角度θと静止時の角度θとの差分が15°よりも小さい場合は、欠点無しと判定されて減点も0となり、差分が15°から30°の間の場合は、小欠点と判定されて減点が0.1点と判定され、差分が31°から45°の間の場合は、中欠点と判定されて減点が0.3点と判定され、差分が45°よりも大きい場合は、大欠点と判定されて減点が0.5点と判定される。
[画面表示例]
次に、比較表示部23がディスプレイなどに表示する画面表示例を説明する。図10は、出力画面の表示例を示す図である。比較表示部23は、図10に示す比較表示画面Bを生成して表示する。比較表示画面Bには、演技者の氏名や所属チーム、演技種目などの情報が含まれる。比較表示画面Bには、選択されたフレームの画像を表示する映像領域C、採点ルールを選択可能に表示する選択領域D、各フレームを表示する領域P、フレームを選択するスクロールバーQが含まれる。なお、画面上でXYZ面は予め決められている。例えば、あん馬の場合、あん馬の水平方向をX軸、垂直方向をY軸、奥行き方向をZ軸などと予め決定しておく。
具体的には、比較表示部23は、比較表示画面Bの映像領域Cに、審判が選択したフレームに対応する映像(画像)を表示する。また、比較表示部23は、比較表示画面Bの領域Pに、映像データを構成する各フレームの画像を表示する。そして、比較表示部23は、領域Pに表示される各フレームの中から審判などのユーザがスクロールバーQを動かすことで選択したフレームの画像を領域Cに表示する。
また、比較表示部23は、映像領域Cに表示されるフレームの画像に対応する骨格モデルを、映像領域Cの画像と並べて表示する。ここで、比較表示部23は、予め定めた複数の視点から見た骨格モデルの画像を表示する。そして、角度算出部24は、選択領域Dに表示される採点ルールのうち選択された採点ルールの計算式を用いて、表示される各骨格モデルの画像に角度を表示させる。つまり、審判は、選択領域Dに表示される採点ルールを選択することで、所望の角度を表示させることができる。
例えば、審判が08秒のフレームおよび採点ルールD1を選択すると、比較表示部23は、08秒のフレームの画像を領域Cに表示するとともに、当該画像の骨格モデルを表示する。そして、角度算出部24は、当該フレームに対応する関節位置データを関節位置データDB14から取得し、採点ルールD1に対応する計算式を用いて採点対象の角度を算出したのち、表示される骨格モデルの画像に重畳させて表示する。
その後、審判が採点ルールD1を維持したまま、09秒のフレームを選択すると、比較表示部23は、09秒のフレームの画像を領域Cに表示するとともに、当該画像の骨格モデルを表示する。そして、角度算出部24は、当該フレームに対応する関節位置データを用いて算出した角度を、表示される骨格モデルの画像に重畳させて表示する。
さらに、審判が09秒のフレームを選択したまま、採点ルールD2を選択すると、比較表示部23は、表示を維持し、角度算出部24は、当該フレームに対応する関節位置データを関節位置データDB14から取得し、採点ルールD2に対応する計算式を用いて採点対象の角度を算出したのち、表示される骨格モデルの画像に重畳させて表示する。
なお、角度算出部24は、1つのフレームが選択された場合に、その前後のフレームについても角度を算出しておくこともできる。例えば、角度算出部24は、08秒のフレームが選択されると、08秒のフレームの骨格モデルを用いた角度に加えて、07秒のフレームの骨格モデルを用いた角度と09秒のフレームの骨格モデルを用いた角度を算出することもできる。
このように、予め算出することで、フレーム切替えによる角度の算出時間を短縮することができ、審判の負担も軽減できる。また、審判がフレームをこまめに切替えて角度を確認する場合であっても、ストレスなく確認作業を実行することができる。
そして、比較表示部23は、複数の骨格モデルの画像のうち、ダブルクリックなどによって選択された骨格モデルの画像を拡大表示することもできる。図11は、拡大表示の表示例を説明する図である。図11に示すように、比較表示部23は、図10の状態からTopの骨格モデルの画像が選択された場合、Topの骨格モデルの画像を拡大表示する。なお、フレームの選択は、領域Bの下に表示されるボタンを押下することでも実行できる。
さらに、角度算出部24は、減点度合いによって角度の表示形式を変更することもできる。図12は、減点の表示例を示す図である。例えば、角度算出部24は、小欠点の場合は角度を青色で表示し(図12の(a))、中欠点の場合は角度を黄色で表示し(図12の(b))、大欠点の場合は角度を赤色で表示する(図12の(c))。このようにすることで、減点度合いを視覚的に表示することができ、審判の負担を軽減できる。なお、色は任意に変更することができる。
[事前処理の流れ]
図13は、事前処理の流れを示すフローチャートである。図13に示すように、事前処理部21は、演技の撮影開始の指示を受け付けると(S101)、記録IDを採番する(S102)。そして、事前処理部21は、3Dレーザセンサで関節位置データを取得する一方で(S103)、ビデオカメラで映像データを取得する(S104)。
そして、関連付け部22は、関節位置データと映像データとを関連付けて、それぞれ関節位置データDB14と映像データDB15に格納する(S105)。なお、記録IDを採番するタイミングは、任意に変更できる。
[関節位置の登録処理の流れ]
図14は、関節位置の登録処理の流れを示すフローチャートである。図14に示すように、事前処理部21は、採点ルールを採番し(S201)、管理者等から、体操審判が採点時に見るポイント(動作、採点対象、閾値、減点など)を受け付けて、競技種目ごとの採点ルールDB16に登録する(S202)。
続いて、事前処理部21は、採点ルールIDごとに骨格モデルの関連する関節番号を特定し(S203)、管理者等から受け付けた、関節がなす角度を算出するための計算式を計算式DB17に登録する(S204)。
そして、事前処理部21は、関節の角度を表示する円弧を表示する平面の指定を管理者等から受け付けて計算式DB17に設定する(S205)。その後、事前処理部21は、複数の時点でのなす角度が採点に関わる場合は必要に応じて計測回数の指定を管理者等から受け付けて計算式DB17に登録する(S206)。
[比較表示処理の流れ]
図15は、比較表示処理の流れを示すフローチャートである。図15に示すように、比較表示部23は、再判定となる選手の演技の映像データを映像データDB15から検索して表示する(S301)。なお、再判定となる選手の演技は、管理者等により指定することができる。
続いて、比較表示部23は、検索された映像データの記録IDで関連付けられる関節位置データを関節位置データDB14から抽出する(S302)。そして、比較表示部23は、抽出した関節位置データを骨格モデルに当てはめて人体の3Dモデルを作成して表示する(S303)。その後、比較表示部23は、映像データの再生操作にあわせて3Dモデルの時間軸を同期して表示する(S304)。
[角度の表示処理の流れ]
図16は、関節のなす角度の表示処理の流れを示すフローチャートである。図16に示すように、角度算出部24は、判定対象となる記録IDの種目名を映像データDB15から取得し(S401)、その種目にかかわる採点ルールIDを採点ルールDB16から取得する(S402)。
続いて、角度算出部24は、取得した採点ルールIDごとに計算式を計算式DB17から検索して、演技の再生時刻時点の関節のなす角度を算出する(S403)。ここで、角度算出部24は、計測回数が複数回設定されている場合(S404:Yes)、計算式に従って複数回の計測時刻における角度の差分を算出する(S405)。
そして、複数回の計測回数が設定されていない場合(S404:No)、または、S405が実行された場合、角度算出部24は、選択ボタンと連動して、表示される3Dモデルにおいて計算式DB17の基準座標を原点として、基準面に水平な面に角度を示す円弧を表示する(S406)。さらに、角度算出部24は、閾値に従い、円弧の色を変更する(S407)。
[効果]
上述したように、映像再生装置10は、体操審判が選手の関節角度を、計算式にしたがって算出して表示するので、採点規則に則って統一的な採点を行うための情報を提供することができる。この結果、体操審判は、個人的な癖、能力、経験などに依存することなく、種目や技ごとに定められた採点規則に則って、演技の採点を詳細に行うことができる。
さて、これまで本発明の実施例について説明したが、本発明は上述した実施例以外にも、種々の異なる形態にて実施されてよいものである。そこで、以下に異なる実施例を説明する。
[競技種目]
上記実施例では、体操競技のあん馬や吊り輪を例にして説明したが、これに限定されるものではなく、選手が一連の技を行って審判が採点する他の競技にも適用することができる。他の競技の一例としては、体操競技の他の種目、フィギュアスケート、新体操、チアリーディングなどがある。
[対象データ]
上記例では、演技の映像を用いた例を説明したが、これに限定されるものではない。例えば、静止画像であっても同様に処理することができる。なお、骨格モデルから各関節の3次元座標を取得する技術は、一般的な3Dモデリング技術を用いることができる。
[システム]
上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られない。つまり、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。さらに、各装置にて行なわれる各処理機能は、その全部または任意の一部が、CPUおよび当該CPUにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。
[ハードウェア構成]
図17は、ハードウェア構成例を示す図である。図17に示すように、映像再生装置10は、通信インタフェース10a、HDD(Hard Disk Drive)10b、メモリ10c、プロセッサ10dを有する。
通信インタフェース10aは、他の装置の通信を制御するネットワークインタフェースカードなどである。HDD10bは、プログラムやデータなどを記憶する記憶装置の一例である。
メモリ10cの一例としては、SDRAM(Synchronous Dynamic Random Access Memory)等のRAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ等が挙げられる。プロセッサ10dの一例としては、CPU(Central Processing Unit)、DSP(Digital Signal Processor)、FPGA(Field Programmable Gate Array)、PLD(Programmable Logic Device)等が挙げられる。
また、映像再生装置10は、プログラムを読み出して実行することで映像再生方法を実行する情報処理装置として動作する。つまり、映像再生装置10は、事前処理部21、関連付け部22、比較表示部23、角度算出部24と同様の機能を実行するプログラムを実行する。この結果、映像再生装置10は、事前処理部21、関連付け部22、比較表示部23、角度算出部24と同様の機能を実行するプロセスを実行することができる。なお、この他の実施例でいうプログラムは、映像再生装置10によって実行されることに限定されるものではない。例えば、他のコンピュータまたはサーバがプログラムを実行する場合や、これらが協働してプログラムを実行するような場合にも、本発明を同様に適用することができる。
このプログラムは、インターネットなどのネットワークを介して配布することができる。また、このプログラムは、ハードディスク、フレキシブルディスク(FD)、CD−ROM、MO(Magneto−Optical disk)、DVD(Digital Versatile Disc)などのコンピュータで読み取り可能な記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行することができる。
10 映像再生装置
11 通信部
12 記憶部
13 関節定義データDB
14 関節位置データDB
15 映像データDB
16 採点ルールDB
17 計算式DB
20 制御部
21 事前処理部
22 関連付け部
23 比較表示部
24 角度算出部

Claims (8)

  1. コンピュータに、
    センサによるセンシング結果から演技者の関節の位置を特定し、
    競技種目の技の採点に用いられる関節がなす角度を算出するための算出式に関する算出情報と、特定された前記演技者の関節の位置とを用いて、前記角度を算出し、
    カメラから取得した前記演技者の演技画像と、前記センシング結果から生成した前記演技者の3Dモデル画像上に前記角度を表示させた採点用画像とを比較可能に表示する
    処理を実行させることを特徴とする演技表示プログラム。
  2. 前記特定する処理は、
    予め測定して保持する前記演技者の関節の位置を特定する関節情報を参照して、前記演技画像における演技者の関節の位置を特定することを特徴とする請求項1に記載の演技表示プログラム。
  3. 前記演技者の演技における特定の時点の指定を受け付け、
    前記特定の時点における前記角度を用いて、選択された前記演技画像と、前記採点用画像とを比較可能に表示する処理を前記コンピュータに実行させることを特徴とする請求項1に記載の演技表示プログラム。
  4. 前記特定の時点の前後の角度を算出し、
    前記前後の角度それぞれについて新たな採点用画像を生成する処理を前記コンピュータに実行させることを特徴とする請求項3に記載の演技表示プログラム。
  5. 数の技それぞれに対応付けて、当該技の採点に用いられる前記関節および前記算出情報を記憶する記憶部を参照して、選択された技に対応する前記関節および前記算出情報を特定し、
    定される前記算出情報を用いて、選択された技の採点に用いられる前記角度を算出する処理を前記コンピュータに実行させることを特徴とする請求項1に記載の演技表示プログラム。
  6. 前記技の採点に用いられる角度と、当該角度との差に応じて決定される採点基準とを対応付けて記憶する採点情報を参照し、
    算出された前記角度に対応する前記採点基準に応じて、前記演技画像と前記採点用画像とを比較可能に表示する際の前記角度の表示色を変更することを特徴とする請求項1に記載の演技表示プログラム。
  7. コンピュータが、
    センサによるセンシング結果から演技者の関節の位置を特定し、
    競技種目の技の採点に用いられる関節がなす角度を算出するための算出式に関する算出情報と、特定された前記演技者の関節の位置とを用いて、前記角度を算出し、
    カメラから取得した前記演技者の演技画像と、前記センシング結果から生成した前記演技者の3Dモデル画像上に前記角度を表示させた採点用画像とを比較可能に表示する
    処理を実行することを特徴とする演技表示方法。
  8. 競技種目の技の採点に用いられる関節がなす角度を算出するための算出式に関する算出情報を記憶する採点記憶部と、
    センサによるセンシング結果から演技者の関節の位置を特定する特定部と、
    特定された前記演技者の関節の位置と前記算出情報を用いて、前記角度を算出する算出部と、
    カメラから取得した前記演技者の演技画像と、前記センシング結果から生成した前記演技者の3Dモデル画像上に前記角度を表示させた採点用画像とを比較可能に表示する表示制御部と
    を有することを特徴とする演技表示装置。
JP2019518620A 2017-05-15 2017-05-15 演技表示プログラム、演技表示方法および演技表示装置 Active JP6813086B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/018259 WO2018211571A1 (ja) 2017-05-15 2017-05-15 演技表示プログラム、演技表示方法および演技表示装置

Publications (2)

Publication Number Publication Date
JPWO2018211571A1 JPWO2018211571A1 (ja) 2020-03-12
JP6813086B2 true JP6813086B2 (ja) 2021-01-13

Family

ID=64274101

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019518620A Active JP6813086B2 (ja) 2017-05-15 2017-05-15 演技表示プログラム、演技表示方法および演技表示装置

Country Status (5)

Country Link
US (1) US11285371B2 (ja)
EP (1) EP3627441A4 (ja)
JP (1) JP6813086B2 (ja)
CN (1) CN110622212B (ja)
WO (1) WO2018211571A1 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7067561B2 (ja) * 2017-09-05 2022-05-16 富士通株式会社 採点方法、採点プログラムおよび採点装置
JP7205201B2 (ja) * 2018-12-05 2023-01-17 富士通株式会社 表示方法、表示プログラムおよび情報処理装置
JP7008342B2 (ja) * 2019-03-05 2022-01-25 株式会社Sportip 運動評価システム
US11295527B2 (en) * 2019-08-30 2022-04-05 Sprongo, LLC Instant technique analysis for sports
SE1950996A1 (en) * 2019-09-02 2021-03-03 Martin Karlsson Advancement manager in a handheld user device
USD931897S1 (en) * 2019-09-27 2021-09-28 Fujitsu Limited Display screen with icons
JP7368178B2 (ja) * 2019-10-25 2023-10-24 エイベックス株式会社 評価装置、評価方法、及びプログラム
USD1001836S1 (en) * 2020-02-06 2023-10-17 Battelle Memorial Institute Display screen or portion thereof with graphical user interface
US20210319619A1 (en) * 2020-04-08 2021-10-14 The Boeing Company Method for Ergonomic Scoring From Webcam
WO2022003963A1 (ja) * 2020-07-03 2022-01-06 富士通株式会社 データ生成方法、データ生成プログラムおよび情報処理装置
USD1011359S1 (en) * 2020-09-22 2024-01-16 Igt Display screen or portion thereof with graphical user interface
JP7195015B2 (ja) * 2020-12-11 2022-12-23 株式会社アイアイビー インストラクションシステム、プログラム
CN113256052A (zh) * 2021-03-22 2021-08-13 苏州学通教育科技有限公司 一种体育考试专用的智能化考试系统
JP1724444S (ja) * 2021-03-31 2022-09-09 トレーニング支援用画像
JP1724355S (ja) * 2021-03-31 2022-09-09 トレーニング支援用画像

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE19811349C1 (de) * 1998-03-16 1999-10-07 Siemens Ag Verfahren zur Kontrastmittelverfolgung mittels eines bildgebenden medizinischen Geräts und Steuervorrichtung zur Durchführung des Verfahrens
JP2004208995A (ja) * 2002-12-30 2004-07-29 Casio Comput Co Ltd 競技用審判支援装置、競技結果表示装置及び競技用審判支援システム
JP4322627B2 (ja) * 2003-10-31 2009-09-02 株式会社第一興商 歌唱中止したときの最終得点を経過得点とともに表示するカラオケ採点装置
CN101470898B (zh) * 2007-12-26 2012-04-11 中国科学院自动化研究所 一种双人跳水同步性自动分析方法
US8175326B2 (en) * 2008-02-29 2012-05-08 Fred Siegel Automated scoring system for athletics
JP2010264088A (ja) 2009-05-15 2010-11-25 Rakuraku Service:Kk 健康増進プログラム
US9981193B2 (en) * 2009-10-27 2018-05-29 Harmonix Music Systems, Inc. Movement based recognition and evaluation
US20130171601A1 (en) * 2010-09-22 2013-07-04 Panasonic Corporation Exercise assisting system
US9283429B2 (en) 2010-11-05 2016-03-15 Nike, Inc. Method and system for automated personal training
JP2014502178A (ja) * 2010-11-05 2014-01-30 ナイキ インターナショナル リミテッド 自動化個人トレーニングのための方法およびシステム
WO2013116812A1 (en) * 2012-02-03 2013-08-08 Orthohub, Inc. External fixator deformity correction systems and methods
CA2834833C (en) * 2012-02-29 2016-07-05 Mizuno Corporation Running form diagnostic system and method for scoring running form
JP6431259B2 (ja) * 2013-11-19 2018-11-28 日本コントロールシステム株式会社 カラオケ装置、ダンス採点方法、およびプログラム
JP6225039B2 (ja) * 2014-01-31 2017-11-01 株式会社日立製作所 画像検索システム、画像検索装置及び画像検索方法
KR101555863B1 (ko) * 2014-02-27 2015-09-30 계명대학교 산학협력단 태권도 품새 판독 및 교육 장치 및 그 방법
KR101586462B1 (ko) * 2015-10-02 2016-01-19 (주)나라소프트 스크린을 이용한 테니스 연습 및 게임 시뮬레이션 시스템

Also Published As

Publication number Publication date
US20200078657A1 (en) 2020-03-12
EP3627441A4 (en) 2020-12-23
JPWO2018211571A1 (ja) 2020-03-12
US11285371B2 (en) 2022-03-29
CN110622212B (zh) 2022-11-18
EP3627441A1 (en) 2020-03-25
CN110622212A (zh) 2019-12-27
WO2018211571A1 (ja) 2018-11-22

Similar Documents

Publication Publication Date Title
JP6813086B2 (ja) 演技表示プログラム、演技表示方法および演技表示装置
JP7067561B2 (ja) 採点方法、採点プログラムおよび採点装置
WO2019043928A1 (ja) 練習支援プログラム、練習支援方法および練習支援システム
KR100430840B1 (ko) 동작비교를 통한 자세교정 운동 장치 및 동작비교 방법,이 동작비교 방법을 저장한 기록매체
CN111265840B (zh) 显示方法、信息处理设备和计算机可读记录介质
US20110157306A1 (en) Animation Generation Systems And Methods
JP6704606B2 (ja) 判定システム、及び判定方法
JPWO2019130527A1 (ja) 抽出プログラム、抽出方法および情報処理装置
WO2020061432A1 (en) Markerless human movement tracking in virtual simulation
JP2005256232A (ja) 3dデータ表示方法、装置、およびプログラム
KR20190122369A (ko) 사용자의 운동 자세 분석을 위한 이미지 생성 장치
CN109407826B (zh) 球类运动模拟方法、装置、存储介质及电子设备
JP2021056900A (ja) 画像処理装置、画像処理方法、及びプログラム
KR20160042094A (ko) 시뮬레이션 장치, 시뮬레이션 방법 및 프로그램
JP7103998B2 (ja) 骨格抽出方法、装置およびプログラム
KR102453296B1 (ko) 정보 처리장치, 그 제어방법 및 컴퓨터 프로그램
JP2020201863A (ja) 情報処理装置、情報処理方法、およびプログラム
WO2018207388A1 (ja) モーションキャプチャに関するプログラム、装置および方法
JP6684336B1 (ja) データ補正装置およびプログラム
JP2020188914A (ja) データ処理装置、画像配信システム、画像解析方法及び画像解析プログラム
JP7447956B2 (ja) 処理装置、姿勢解析システム、及びプログラム
JP6899105B1 (ja) 動作表示装置、動作表示方法及び動作表示プログラム
WO2023106201A1 (ja) プレイ分析装置、プレイ分析方法、及びコンピュータ読み取り可能な記録媒体
CN112245910B (zh) 一种基于Quest头显的建模、极限运动方法和系统
US20230334767A1 (en) Image processing apparatus, image processing method, and storage medium

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191030

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191030

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201117

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201130

R150 Certificate of patent or registration of utility model

Ref document number: 6813086

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150