JP7205201B2 - 表示方法、表示プログラムおよび情報処理装置 - Google Patents

表示方法、表示プログラムおよび情報処理装置 Download PDF

Info

Publication number
JP7205201B2
JP7205201B2 JP2018228225A JP2018228225A JP7205201B2 JP 7205201 B2 JP7205201 B2 JP 7205201B2 JP 2018228225 A JP2018228225 A JP 2018228225A JP 2018228225 A JP2018228225 A JP 2018228225A JP 7205201 B2 JP7205201 B2 JP 7205201B2
Authority
JP
Japan
Prior art keywords
technique
options
displayed
scoring
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018228225A
Other languages
English (en)
Other versions
JP2020089539A (ja
Inventor
和己 久保田
宏久 内藤
智 清水
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2018228225A priority Critical patent/JP7205201B2/ja
Priority to EP19207721.2A priority patent/EP3663968A1/en
Priority to US16/687,714 priority patent/US20200179759A1/en
Priority to CN201911189730.XA priority patent/CN111265840B/zh
Publication of JP2020089539A publication Critical patent/JP2020089539A/ja
Application granted granted Critical
Publication of JP7205201B2 publication Critical patent/JP7205201B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B24/00Electric or electronic controls for exercising apparatus of preceding groups; Controlling or monitoring of exercises, sportive games, training or athletic performances
    • A63B24/0062Monitoring athletic performances, e.g. for determining the work of a user on an exercise apparatus, the completed jogging or cycling distance
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B71/00Games or sports accessories not covered in groups A63B1/00 - A63B69/00
    • A63B71/06Indicating or scoring devices for games or players, or for other sports activities
    • A63B71/0605Decision makers and devices using detection means facilitating arbitration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482Interaction with lists of selectable items, e.g. menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/23Recognition of whole body movements, e.g. for sport training
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B24/00Electric or electronic controls for exercising apparatus of preceding groups; Controlling or monitoring of exercises, sportive games, training or athletic performances
    • A63B24/0062Monitoring athletic performances, e.g. for determining the work of a user on an exercise apparatus, the completed jogging or cycling distance
    • A63B2024/0068Comparison to target or threshold, previous performance or not real time comparison to other individuals
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B24/00Electric or electronic controls for exercising apparatus of preceding groups; Controlling or monitoring of exercises, sportive games, training or athletic performances
    • A63B24/0062Monitoring athletic performances, e.g. for determining the work of a user on an exercise apparatus, the completed jogging or cycling distance
    • A63B2024/0071Distinction between different activities, movements, or kind of sports performed
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30221Sports video; Sports image

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Physical Education & Sports Medicine (AREA)
  • Psychiatry (AREA)
  • Multimedia (AREA)
  • Social Psychology (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)
  • Image Analysis (AREA)

Description

本発明は、表示方法等に関する。
体操競技として、男子は床運動、あん馬、つり輪、跳馬、平行棒、鉄棒の6種目、女子は跳馬、段違い平行棒、平均台、床運動の4種目が行われている。男女とも跳馬以外の種目では、複数の技を連続して行うことで、1つの演技が構成される。
演技のスコアは、D(Difficulty)スコアとE(Execution)スコアとの合計で算出される。たとえば、Dスコアは、技の成立不成立に基づいて算出されるスコアである。Eスコアは、技の完成度に応じて、減点法により算出されるスコアである。技の成立不成立や、技の完成度は、採点規則を記したルールブックに基づく、審判員の目視により判断される。
さらに、Dスコアについて、得点表示直後、あるいは遅くとも次の選手またはチームの得点表示前に限り、得点の問合せ(Inquiries of the score)が認められている。競技エリアに入ることを許されたコーチのみが、問合せをする権利を有する。すべての問合せは上級審判員により審査される必要があり、ビデオ撮影された選手の映像を確認し、スコアが適切であるか否かを協議する。また、体操の採点を行う審判を支援する目的において、演技中の競技者を3Dセンサによりセンシングし、センシングした結果に対応する競技者の3Dモデルを表示画面に表示する技術がある。さらに、そのほかの技術として、例えば、特許文献1乃至3の技術もある。
特開2003-33461号公報 特開2018-68516号公報 特開2018-86240号公報
たとえば、審判が採点競技の採点を行う際、演技の中の各技について、ビデオ等を再生して、詳細に検討する場合がある。また、選手からの問合せに応じて、問合せの対象となった技について、ビデオ等を再生して、再度検討する場合がある。このように、審判は、ビデオなどを利用して、選手の細部の状態と、採点基準とを照らし合わせて、採点を行う。
ここで、採点基準に係る評価指標について、選手の細部の状態を把握するための補助表示を行うことで、審判を支援することが考えられる。このとき、発明者は、多数の評価指標から、見るべき評価指標を選択する作業が、審判にとって、煩雑となることに気が付いた。
そこで、1つの側面では、本発明は、ユーザによる、採点競技における採点基準に係る評価指標を選択する作業を支援することができる表示方法、表示プログラムおよび情報処理装置を提供することを目的とする。
第1の案では、コンピュータが次の処理を実行する。コンピュータは、採点競技の競技者による一連の演技をセンシングした3Dセンシングデータと、採点競技における技の特徴を定義した技辞書データとを基にして認識された、一連の演技に含まれる複数の技の認識結果を取得する。コンピュータは、3Dセンシングデータに基づく一連の演技に対応する3Dモデル映像の表示中の技を、技の認識結果に基づき特定する。コンピュータは、表示中の技に応じて、採点競技の採点にかかる複数の評価指標に対応する複数の選択肢のうち、表示対象とする一部の選択肢を判定する。コンピュータは、一部の選択肢を、選択可能な態様で表示し、3Dモデル映像に、一部の選択肢の中から選択された選択肢に対応する評価指標についての補助情報を表示する。
ユーザによる、採点競技における採点基準に係る評価指標を選択する作業を支援することができる。
図1は、参考技術を説明するための図である。 図2は、本実施例に係るシステムの構成を示す図である。 図3は、本実施例に係る技認識装置の構成を示す機能ブロック図である。 図4は、本実施例に係るセンシングDBのデータ構造の一例を示す図である。 図5は、本実施例に係る関節定義データのデータ構造の一例を示す図である。 図6は、本実施例に係る関節位置DBのデータ構造の一例を示す図である。 図7は、本実施例に係る3DモデルDBのデータ構造の一例を示す図である。 図8は、本実施例に係る技辞書データのデータ構造の一例を示す図である。 図9は、本実施例に係る技認識結果DBのデータ構造の一例を示す図である。 図10は、本実施例に係る情報処理装置が生成する表示画面の一例を示す図である。 図11は、表示画面の比較結果の一例を示す図である。 図12は、アイコンが選択された場合の3Dモデル映像の一例を示す図である。 図13は、本実施例に係る情報処理装置の構成を示す図である。 図14は、本実施例に係る映像DBのデータ構造の一例を示す図である。 図15は、アイコン定義テーブルのデータ構造の一例を示す図である。 図16は、評価指標テーブルのデータ構造の一例を示す図である。 図17は、本実施例に係る情報処理装置の処理手順を示すフローチャートである。 図18は、本実施例に係る技認識装置と同様の機能を実現するコンピュータのハードウェア構成の一例を示す図である。 図19は、本実施例に係る情報処理装置と同様の機能を実現するコンピュータのハードウェア構成の一例を示す図である。
以下に、本願の開示する表示方法、表示プログラムおよび情報処理装置の実施例を図面に基づいて詳細に説明する。なお、この実施例によりこの発明が限定されるものではない。
本実施例の説明を行う前に、参考技術について説明する。この参考技術は、従来技術ではない。
図1は、参考技術を説明するための図である。参考技術の情報処理装置は、競技者に関する映像および3Dモデル映像を表示する表示画面の情報を生成し、表示画面10を表示させる。図1に示すように、この表示画面10には、領域10a、11、12a~12d、13を有する。
領域10aは、映像、3Dモデル映像の再生、停止、コマ送り、早送り、巻き戻し等を制御するボタンを含む領域である。審判員は、領域10aの各ボタンを押下することで、映像、3Dモデル映像の再生、停止、コマ送り、早送り、巻き戻し等を制御する。
領域11は、映像データに基づく映像を表示する領域である。領域11に表示される映像は、領域10aで押下されたボタンに応じて、再生、停止、コマ送り、早送り、巻き戻し等がなされる。
領域12a,12b,12c,12dは、異なる仮想視点方向から、3Dモデル映像をそれぞれ表示する領域である。領域12a,12b,12c,12dに表示される3Dモデル映像は、領域10aで押下されたボタンに応じて、再生、停止、コマ送り、早送り、巻き戻し等がなされる。
領域13は、全種目の全技にそれぞれ関連する評価指標の全アイコンを表示する領域である。評価指標は、技のスコアを決定するための指標であり、評価指標が理想的な値から乖離するほど、スコアが悪くなる。評価指標には、競技者の複数の関節を通るある直線と複数の直線を通る他の直線とのなす角度(関節角度)、ある直線と他の直線との距離、基準線(基準面)とある直線とのなす角度などが含まれる。一例をあげると、評価指標には、膝角度、肘角度、膝間の距離、競技者のある関節位置と垂線との距離等が含まれる。
ここで、審判員は、領域13に示される複数のアイコンのうち、いずれかのアイコンを選択する。情報処理装置は、アイコンが選択されると、選択されたアイコンに対応する評価指標についての補助情報を、領域12a~12dに表示する。補助情報は、評価指標に対応する、数値および図形の少なくとも一方を示すものである。たとえば、評価指標の一つである肘角度に対応する補助情報は、肘角度の数値や、肘角度を示す図形となる。
審判員は、補助情報を参照して、Eスコアでの減点、あるいは、Dスコアに関わる技の成立不成立などを判断する。審判員は、肘角度が理想の肘角度から乖離するほど、減点を大きくする。審判員は、肘角度と理想の肘角度との差が所定角度以上である場合に、技が成立していないと判断する。
領域14は、競技者のある関節位置の時間推移、ある直線と他の直線とのなす角の時間推移などを表示する領域である。
しかしながら、技のスコアを採点する場合に、技の種類によって、着目すべき評価指標が異なるが、上述した参考技術では、技の種類によらず、領域13に全てのアイコンを表示しているため、審判員の選択肢が多くなっているといえる。すなわち、審判員が、領域13に表示された全てのアイコンを確認して、採点の根拠となる評価指標を表示させるためのアイコンを選択する作業に時間を要してしまうという問題がある。
次に、本発明に関する実施例について説明する。図2は、本実施例に係るシステムの構成を示す図である。図2に示すように、このシステムは、3D(3 dimensional)レーザセンサ50と、カメラ55と、技認識装置80と、情報処理装置100とを有する。ここでは一例として、競技者5は、3Dレーザセンサ50およびカメラ55の前方で体操演技を行う場合について説明するが、競技者5が他の採点競技を行う場合にも同様に適用することができる。
たとえば、他の採点競技は、トランポリン、水泳の飛び込み、フィギュアスケート、空手の型、社交ダンス、スノーボード、スケートボード、スキーエアリアル、サーフィンを含む。また、クラシックバレエ、スキージャンプ、モーグルのエアー、ターン、野球、バスケットボールのフォームチェック等にも適用してもよい。また、剣道、柔道、レスリング、相撲などの競技にも適用してもよい。
3Dレーザセンサ50は、競技者5に対して3Dセンシングを行うセンサである。3Dレーザセンサ50は、センシング結果となる3Dセンシングデータを、技認識装置80に出力する。以下の説明では、3Dセンシングデータを、単に「センシングデータ」と表記する。3Dレーザセンサ50により取得される、各フレームのセンシングデータは、フレーム番号と、競技者5上の各点までの距離情報とを含む。各フレームには、フレーム番号が昇順に付与される。3Dレーザセンサ50は、各フレームのセンシングデータを、順次、技認識装置80に出力してもよいし、複数フレーム分のセンシングデータを、定期的に、技認識装置80に出力してもよい。
カメラ55は、競技者5の映像データを撮影する装置である。カメラ55は、映像データを、情報処理装置100に出力する。映像データには、競技者5の画像に相当する複数のフレームが含まれ、各フレームには、フレーム番号が割り振られる。映像データのフレーム番号と、センシングデータのフレーム番号とは、同期しているものとする。また、下記の説明では、適宜、センシングデータに含まれるフレームを、「センシングフレーム」と表記し、映像データのフレームを「映像フレーム」と表記する。
技認識装置80は、3Dレーザセンサ50がセンシングしたセンシングデータを基にして、3Dモデルデータを生成する。技認識装置80は、3Dモデルデータを基にして、競技者5が行った種目および技を認識する。技認識装置80は、3Dモデルデータおよび認識結果データを、情報処理装置100に出力する。認識結果データには、フレーム番号と、認識した種目および技の種別とが含まれる。
図3は、本実施例に係る技認識装置の構成を示す機能ブロック図である。図3に示すように、この技認識装置80は、通信部81と、記憶部82と、制御部83とを有する。
通信部81は、3Dレーザセンサ50と、情報処理装置100とのデータ通信を実行する処理部である。通信部81は、通信装置に対応する。
記憶部82は、センシングDB82a、関節定義データ82b、関節位置DB82c、3DモデルDB82d、技辞書データ82e、技認識結果DB82fを有する。記憶部82は、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ(Flash Memory)などの半導体メモリ素子や、HDD(Hard Disk Drive)などの記憶装置に対応する。
センシングDB82aは、3Dレーザセンサ50から取得するセンシングデータを格納するDBである。図4は、本実施例に係るセンシングDBのデータ構造の一例を示す図である。図4に示すように、このセンシングDB82aは、演技IDと、フレーム番号と、フレームとを対応づける。演技ID(Identification)は、競技者5が行った一つの演技を一意に識別する情報である。フレーム番号は、同一の演技IDに対応する各センシングフレームを一意に識別する番号である。センシングフレームは、3Dレーザセンサ50にセンシングされたセンシングデータに含まれるフレームである。
関節定義データ82bは、競技者5の各関節位置を定義するデータである。図5は、本実施例に係る関節定義データのデータ構造の一例を示す図である。図5に示すように、関節定義データ82bは、公知の骨格モデルで特定される各関節をナンバリングした情報を記憶する。たとえば、図5に示すように、右肩関節(SHOULDER_RIGHT)にはA7番が付与され、左肘関節(ELBOW_LEFT)にはA5番が付与され、左膝関節(KNEE_LEFT)にはA11番が付与され、右股関節(HIP_RIGHT)にはA14番が付与される。ここで、本実施例では、A8番の右肩関節のX座標をX8、Y座標をY8、Z座標をZ8と記載する場合がある。なお、点線の数字は、骨格モデルから特定されても、採点には利用されない関節等である。
関節位置DB82cは、3Dレーザセンサ50のセンシングデータを基に生成される競技者5の各関節の位置データである。図6は、本実施例に係る関節位置DBのデータ構造の一例を示す図である。図6に示すように、この関節位置DB32cは、演技IDと、フレーム番号と、「X0、Y0、Z0、・・・、X17、Y17、Z17」を対応づける。演技IDに関する説明は、センシングDB82aで行った説明と同様である。
図6において、フレーム番号は、同一の演技IDに対応する各センシングフレームを一意に識別する番号である。「X0、Y0、Z0、・・・、X17、Y17、Z17」は、各関節のXYZ座標であり、たとえば「X0、Y0、Z0」は、図6に示すA0番号の関節の3次元座標である。
図6は、演技ID「P101」のセンシングデータにおける各関節の時系列の変化を示しており、フレーム番号「1」では、各関節の位置が「X0=100、Y0=20、Z0=0、・・・、X17=200、Y17=40、Z17=5」あることを示す。そして、フレーム番号「2」では、各関節の位置が「X0=101、Y0=25、Z0=5、・・・、X17=202、Y17=39、Z17=15」へ移動したことを示す。
3DモデルDB82dは、センシングデータを基に生成される競技者5の3Dモデルのデータを格納するデータベースである。図7は、本実施例に係る3DモデルDBのデータ構造の一例を示す図である。図7に示すように、3DモデルDB82dは、演技IDと、フレーム番号と、骨格データと、3Dモデルデータとを対応づける。演技ID、フレーム番号に関する説明は、センシングDB82aで行った説明と同様である。
骨格データは、各関節位置を接続することで推定される競技者5の骨格を示すデータである。3Dモデルデータは、センシングデータから得られる情報と、骨格データとを基にして推定される競技者5の3Dモデルのデータである。
技辞書データ82eは、競技者5が行う演技に含まれる技を認識する場合に用いられる辞書データである。図8は、本実施例に係る技辞書データのデータ構造の一例を示す図である。図8に示すように、この技辞書データ10eは、種目と、技番号と、技名と、成立条件とを対応付ける。種目は、演技の種目を示す。技番号は、技を一意に識別する情報である。技名は、技の名称である。成立条件は、技が成立する条件を示すものである。成立条件には、該当する技が成立するための各関節位置、各関節角度、各関節位置の推移、各関節角度の推移などが含まれる。
技認識結果DB82fは、技の認識結果を格納するデータベースである。図9は、本実施例に係る技認識結果DBのデータ構造の一例を示す図である。図9に示すように、この技認識結果DB82fは、種目、演技ID、技番号、開始時刻、終了時刻、技名を対応付ける。種目、技番号、技名に関する説明は、技辞書データ82aで説明したものと同様である。演技IDは、演技を一意に識別する情報である。開始時刻は、各技の開始時刻を示す。終了時刻は、各技の終了時刻を示す。なお、ここでいう、「時刻」は、時間情報の一例である。たとえば、時間情報は、日付および時刻を含む情報であってもよいし、演技開始からの経過時間を示すものでもよい。図9に示す例では、演技者が一連の演技で行った技の順番は、「G3-53、G2-52、G1-87、G1-51、G1-52、G3-16、G1-49、G3-69、G1-81、G1-26、G4-41」となる。
図3の説明に戻る。制御部83は、取得部83a、モデル生成部83b、技認識部83c、通知部83dを有する。制御部83は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)などによって実現できる。また、制御部83は、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)などのハードワイヤードロジックによっても実現できる。
取得部83aは、3Dレーザセンサ50から、センシングデータを取得する処理部である。取得部83aは、取得した3Dレーザセンサ50を、センシングDB82aに格納する。
モデル生成部83bは、センシングDB82aを基にして、各演技IDの各フレーム番号に対応する3Dモデルデータを生成する処理部である。以下において、モデル生成部83bの処理の一例について説明する。モデル生成部83bは、センシングDB82aのセンシングフレームと、関節定義データ82bに定義された各関節の位置関係とを比較して、センシングフレームに含まれる各関節の種別および関節の3次元座標を特定する。モデル生成部83bは、各演技IDのフレーム番号毎に上記処理を繰り返し実行することで、関節位置DB82cを生成する。
モデル生成部83bは、関節位置DB82cに格納された各関節の3次元座標を、関節定義データ82bに定義された接続関係を基にしてつなぎ合わせることで、骨格データを生成する。また、モデル生成部83bは、推定した骨格データを、競技者5の体格に合わせた骨格モデルに当てはめることで、3Dモデルデータを生成する。モデル生成部82bは、各演技IDのフレーム番号毎に上記処理を繰り返し実行することで、3DモデルDB82dを生成する。
技認識部83cは、3DモデルDB82dに格納される各骨格データをフレーム番号順に辿り、各骨格データと技辞書データ82eに格納される成立条件とを比較して、成立条件にヒットするか否かを認識する。技認識部83cは、ある成立条件にヒットした場合には、ヒットしたある成立条件に対応する種目、技番号、技名を特定する。また、技認識部83cは、予め設定されたFPS(Frames Per Second)を基にして、ある成立条件にヒットした一連のフレーム番号の開始フレーム番号を開始時刻に変換し、一連のフレーム番号の終了フレームを終了時刻に変換する。技認識部83cは、種目、演技ID、技番号、開始時刻、終了時刻、技名を対応付けて、技認識結果D82fに格納する。
通知部83dは、3DモデルDB82dに格納された情報と技認識結果DB82fに格納された情報とを、情報処理装置100に送信する処理部である。
図2の説明に戻る。情報処理装置100は、映像および3Dモデル映像を表示する表示画面の情報を生成し、表示部(図示略)に表示させる処理部である。図10は、本実施例に係る情報処理装置が生成する表示画面の一例を示す図である。図10に示すように、この表示画面20には、領域20a、21、22a~22d、23を有する。
領域20aは、映像、3Dモデル映像の再生、停止、コマ送り、早送り、巻き戻し等を制御するボタンを含む領域である。審判員は、領域20aの各ボタンを押下することで、映像、3Dモデル映像の再生、停止、コマ送り、早送り、巻き戻し等を制御する。
領域21は、映像データに基づく映像を表示する領域である。領域21に表示される映像は、領域20aで押下されたボタンに応じて、再生、停止、コマ送り、早送り、巻き戻し等がなされる。
領域22a,22b,22c,22dは、異なる視点方向から、3Dモデル映像をそれぞれ表示する領域である。領域22a,22b,22c,22dに表示される3Dモデル映像は、領域20aで押下されたボタンに応じて、再生、停止、コマ送り、早送り、巻き戻し等がなされる。
領域24は、競技者5のある関節位置の時間推移、ある直線と他の直線とのなす角の時間推移などを表示する領域である。領域24において、再生時刻(領域24の太線)から、所定時間(たとえば2秒)を強調表示しても良い。
領域23は、全種目の全技にそれぞれ関連する評価指標の全アイコンのうち、再生中(または一時停止などにより表示中)の技に対応する一部のアイコンを表示する領域である。評価指標は、技のスコアを決定するための指標であり、評価指標が理想的な値から乖離するほど、スコアが悪くなる。評価指標には、競技者5の複数の関節を通るある直線と複数の直線を通る他の直線とのなす角度、ある直線と他の直線との距離、基準線(基準面)とある直線とのなす角度などが含まれる。一例をあげると、評価指標には、膝角度、肘角度、膝間の距離、競技者のある関節位置と垂線との距離等が含まれる。
各アイコンは、各アイコンに対応付けられた複数の評価指標から、いずれかの評価指標を選択する選択肢に対応する。
情報処理装置100は、領域22a~22dに現在表示している3Dモデル映像の再生時刻を特定し、再生時刻と、技認識結果DB82fの情報とを比較して、再生時刻に対応する技を特定する、情報処理装置100は、領域23に表示可能な全アイコンの内、特定した技に対応する一部のアイコンを領域23に表示する。
図11は、表示画面の比較結果の一例を示す図である。図11に示すように、参考技術による表示画面の領域13には、全種目の全技にそれぞれ関連する評価指標の全アイコンが表示されている。これに対して、本実施例に関する表示画面の領域23には、再生時刻において、競技者5が演じている技に関する評価指標を選択するためのアイコンのみが表示される。
たとえば、技「後ろ振り上がり中水平支持(2)秒」の技の評価指標に対応するアイコンを、アイコン231-1、231-2、231-3、231-4、232-2、233-3、234-4とする。この場合には、情報処理装置100は、再生時刻の技が「後ろ振り上がり中水平支持(2)秒」である場合において、全アイコンの内、アイコン231-1、231-2、231-3、231-4、232-2、233-3、234-4を受け付け可能な様態で表示する。図10、図11に示すように、領域23の各アイコンは、領域22a~22dに再生中の技のスコアを採点する場合に、着目すべき評価指標を表示するアイコンのみを表示されている。これによって、採点の根拠となる評価項目を表示させるためのアイコンを選択する作業に時間を要することがなくなり、審判員の作業が改善される。
なお、審判員は、領域23に示される複数のアイコンのうち、いずれかのアイコンを選択する。情報処理装置100は、アイコンが選択されると、選択されたアイコンに対応する評価指標についての補助情報を、領域22a~22dに表示する。補助情報は、評価指標に対応する、数値および図形を示すものである。たとえば、評価指標の一つである肘角度に対応する補助情報は、肘角度の数値、肘角度を示す図形となる。ここでは、アイコン231-4が選択された場合について説明する。アイコン231-4は、肘角度を示すアイコンである。
図12は、アイコンが選択された場合の3Dモデル映像の一例を示す図である。図12に示すように、アイコン231-4が選択されると、情報処理装置100は、領域22a~領域22dにおいて、異なる視点角度から3Dモデルを表示し、選択されたアイコン「肘角度(評価指標)」に対応する補助情報として、肘角度の数値と当該角度を示す図形とを合わせて表示する。審判員は、補助情報を参照して、Eスコアでの減点、あるいは、Dスコアに関わる技の成立不成立などを判断する。審判員は、肘角度が理想の肘角度から乖離するほど、減点を大きくする。審判員は、肘角度と理想の肘角度との差が所定角度以上である場合に、技が成立していないと判断する。
次に、本実施例に係る情報処理装置100の構成について説明する。図13は、本実施例に係る情報処理装置の構成を示す図である。図13に示すように、情報処理装置100は、通信部110と、入力部120と、表示部130と、記憶部140と、制御部150とを有する。
通信部110は、カメラ55および技認識装置80とデータ通信を行う処理部である。たとえば、通信部110は、技認識装置80から3DモデルDB82dの情報および技認識結果DB82fの情報を受信し、受信した3DモデルDB82dの情報および技認識結果DB82fの情報を制御部150に出力する。また、通信部110は、カメラ55から映像データを受信し、受信した映像データを制御部150に出力する。後述する制御部150は、通信部110を介して、カメラ55、技認識装置80とデータをやり取りする。
入力部120は、各種の情報を情報処理装置100に入力するための入力装置である。たとえば、入力部120は、キーボードやマウス、タッチパネル等に対応する。審判員は、入力部120を操作して、図10等に示した表示画面20の領域20aのボタンを選択することで、映像、3Dモデル映像の再生、停止、コマ送り、早送り、巻き戻し等を制御する。また、入力部120を操作して、審判員は、図10に示した表示画面20の領域23に含まれるアイコンを選択する。
表示部130は、制御部150から出力される各種の情報を表示する表示装置である。たとえば、表示部130は、図10等に示した表示画面20の情報を表示する。また、審判員が領域23に含まれるアイコンを押下すると、表示部130には、図12に示したように、選択されたアイコンに対応する評価指標についての補助情報を、3Dモデル上に重畳表示する。
記憶部140は、映像DB140a、3DモデルDB92d、技認識結果DB92f、アイコン定義テーブル140b、評価指標テーブル140cを有する。記憶部140は、RAM、ROM、フラッシュメモリなどの半導体メモリ素子や、HDDなどの記憶装置に対応する。
映像DB140aは、映像フレームを格納するデータベースである。図14は、本実施例に係る映像DBのデータ構造の一例を示す図である。図14に示すように、この映像DB140aは、演技IDと、フレーム番号と、映像フレームとを対応付ける。演技IDは、競技者5が行った一つの演技を一意に識別する情報である。フレーム番号は、同一の演技IDに対応する各映像フレームを一意に識別する番号である。映像フレームは、カメラ55に撮影された映像データに含まれるフレームである。図4に示したセンシングフレームのフレーム番号と、映像フレームのフレーム番号とは同期しているものとする。
3DモデルDB92dは、技認識装置80により生成される競技者5の3Dモデルのデータを格納するデータベースである。3DモデルDB92dには、図7で説明した3DモデルDB82dと同様の情報が格納される。
技認識結果DB92fは、技認識装置80により生成される一連の演技に含まれる各技の認識結果を格納するデータベースである。技認識結果DB92fには、図9で説明した技認識結果DB82fと同様の情報が格納される。
アイコン定義テーブル140bは、演技の種目および技に対応するアイコンを定義するテーブルである。このアイコン定義テーブル140bにより、再生時刻の競技者5の技に対して、どのアイコンを領域23に表示されるのかが決定される。図15は、アイコン定義テーブルのデータ構造の一例を示す図である。図15に示すように、このアイコン定義テーブル140bは、テーブル141,142を有する。
テーブル141は、技番号に対応するアイコン識別番号を定義するテーブルである。技番号は、技を一意に識別する情報である。アイコン識別番号は、アイコンを一意に識別する情報である。アイコン識別番号が技番号に対応する場合には、技番号の行とアイコン識別番号の列との交差する部分が「オン」となる。アイコン識別番号が技番号に対応しない場合には、技番号の行とアイコン識別番号の列との交差する部分が「オフ」となる。たとえば、再生時刻の競技者の技が技番号「G3-39」の技であるとする。この場合には、テーブル141の技番号「G3-39」の行において、オンとなるアイコン識別番号のアイコンが、領域23に表示される。
テーブル142は、アイコン識別番号とアイコン画像とを対応付けるテーブルである。アイコン識別番号は、アイコンを一意に識別する情報である。アイコン画像は、図11に示した各アイコン、あるいは、図12の領域23に示した各アイコンの画像を示すものである。
評価指標テーブル140cは、アイコンに対応する評価指標について、どのように評価指標に対応する補助情報を特定するのかを定義するテーブルである。図16は、評価指標テーブルのデータ構造の一例を示す図である。図16に示すように、この評価指標テーブル140cは、アイコン識別番号と、評価指標と、定義とを対応付ける。
アイコン識別番号は、アイコンを一意に識別する情報である。評価指標は、技のスコアを決定するための指標である。定義は、競技者5の評価指標を骨格データから導くための定義を示すものである。たとえば、骨格データに含まれる複数の関節の内、ある関節とある関節とを結ぶ直線、および、2つの直線のなす角度などにより、評価指標が定義される。
図13の説明に戻る。制御部150は、取得部150aと、表示制御部150bと、特定部150cと、判定部150dとを有する。制御部150は、ASICやFPGAなどのハードワイヤードロジックによっても実現できる。
取得部150aは、カメラ55から映像データを取得し、取得した映像データを、映像DB140aに格納する。取得部150aは、技認識装置80から3DモデルDB82dの情報および技認識結果DB82fの情報を取得する。取得部150aは、3DモデルDB82dの情報を、3DモデルDB92dに格納する。取得部150aは、技認識結果DB82fの情報を、技認識結果DB92fに格納する。
表示制御部150bは、図10に示した表示画面20の情報を生成し、表示部130に表示する処理部である。表示制御部150bは、映像DB140aから映像フレームを順に読み出し、表示画面20の領域21において、映像を再生する。
表示制御部150bは、3DモデルDB82dから3Dモデルデータを順に読み出し、表示画面20の領域22a~22dにおいて、3Dモデル映像を再生する。各領域22a~22dに表示される各3Dモデル映像は、予め指定された仮想視点方向から、3Dモデルデータを撮影した映像である。
表示制御部150bは、領域21に表示する映像の時刻(フレーム番号)と、各領域22a~22dに表示される各3Dモデル映像の時刻(フレーム番号)とを同期させて再生させるものとする。表示制御部150bは、審判員により、領域20aに表示されるボタンを押下された場合には、押下されたボタンに応じて、領域21の映像、領域22a~22dの3Dモデル映像に関して、再生、停止、コマ送り、早送り、巻き戻し等を行う。
表示制御部150bは、3DモデルDB92dに格納された骨格データを参照し、競技者5のある関節位置の時間推移、ある直線と他の直線とのなす角の時間推移等の情報を生成し、領域24に表示する。
表示制御部150bは、領域22a~22dに現在表示している3Dモデル映像の再生時刻の情報を、特定部150cに出力する。以下の説明では、領域22a~22dに現在表示している3Dモデル映像の再生時刻を単に「再生時刻」と表記する。
表示制御部150bは、競技者5の技が切り替わったタイミングで、判定部150dからアイコン情報を受信する。アイコン情報は、複数のアイコン識別情報と、アイコン識別情報に対応する複数の評価指標の補助情報とを対応付ける情報である。表示制御部150bは、判定部150dから最後に受信したアイコン情報に含まれる複数のアイコン識別情報のアイコン画像を、アイコン定義テーブル140bから取得する。そして、表示制御部150bは、アイコン識別情報に対応するアイコン画像を、表示画面20の領域23にそれぞれ表示する。
表示制御部150bは、審判員により、表示画面20の領域23に表示した複数のアイコン(アイコン画像)のうち、いずれかのアイコンが選択されると、選択されたアイコンのアイコン識別情報に基づき、アイコン識別情報に対応する評価指標の補助情報を、最後に受信したアイコン情報から、取得する。表示制御部150bは、領域22a~22dに表示している3Dモデル映像に、選択されたアイコンに対応する補助情報を重畳して表示する。
表示制御部150bは、補助情報を3Dモデル映像に重畳して表示する場合に、選択された評価指標についての補足情報に関連する部分を強調表示してもよい。たとえば、評価指標として「肘角度」のアイコンが選択された場合に、図12で説明したように、補助情報として、肘角度の値と、当該肘角度を示す図形(扇形で角度の大きさを表現する図形)が生成される。そして、3Dモデル映像において、肘角度を示す図形を、3Dモデルとは異なる色で重畳することで、強調表示する。3Dモデル映像において、どの部分を強調表示するのかは、たとえば、アイコン識別情報と、強調部分とを対応付けたテーブル(図示略)を用いることができる。または、表示制御部150bが、図16の評価指標テーブル140cの定義に含まれる情報を基にして、強調する部分を算出してもよい。たとえば、表示制御部150bは、アイコン識別番号が「E1」である場合には、3Dモデル映像において、第1線分と第2線分との間を、強調表示する。
特定部150cは、表示制御部150bから再生時刻の情報を取得し、再生時刻と、技認識結果DB82fとを比較して、再生時刻に対応する技番号を特定する処理部である。特定部150cは、特定した再生時刻に対応する技番号を、判定部150dに出力する。なお、一時停止がなされている場合には、特定部150cは、一時停止がなされた時刻(表示されている時刻)に基づき、技番号を特定する。
判定部150dは、特定部150cから、再生時刻に対応する技番号を取得し、技番号に対応するアイコン識別番号を判定する処理部である。判定部150dは、技番号と、テーブル141とを比較して、技番号とアイコン識別番号との関係が「オン」で関連付けられたアイコン識別番号を判定し、判定したアイコン識別番号をアイコン情報に登録する。
また、判定部150dは、アイコン識別番号に基づく評価指標の補助情報を生成する。判定部150dは、アイコン識別番号と、評価指標テーブル140cとを比較して、アイコン識別番号に対応する評価指標および定義を判定する。また、判定部150dは、再生時刻に対応するフレーム番号の骨格データを、3DモデルDB92dから取得する。判定部150dは、定義により特定される複数の線を、骨格データを基に特定し、特定した複数の線分のなす角、ある基準面、基準線との距離等を補助情報として算出する。判定部150dは、算出した補助情報を、アイコン情報に登録する。
上記の処理を行うことで、判定部150dは、技番号を取得する度に、アイコン識別番号と、補助情報とをアイコン情報に登録し、アイコン情報を、表示制御部150bに出力する。
次に、本実施例に係る情報処理装置100の処理手順の一例について説明する。図17は、本実施例に係る情報処理装置の処理手順を示すフローチャートである。図17に示すように、情報処理装置100の取得部150aは、映像データと、3DモデルDB82dの情報と、技認識結果DB82fの情報とを取得し、記憶部140に格納する(ステップS101)。
情報処理装置100の表示制御部150bは、ユーザからの指示に応じて、映像データおよび3Dモデル映像の再生を開始する(ステップS102)。表示制御部150bは、表示画面の領域20aのボタンにより、再生開始時刻の変更指定を受け付けたか否かを判定する(ステップS103)。
表示制御部150bは、再生開始時刻の変更指定を受け付けていない場合には(ステップS103,No)、ステップS105に移行する。
一方、表示制御部150bは、再生開始時刻の変更指定を受け付けた場合には(ステップS103,Yes)、再生時刻を変更して再生を継続(ステップS104)し、ステップS105に移行する。
情報処理装置100の特定部150cは、再生に同期して、再生時刻に対応する技番号を特定する(ステップS105)。情報処理装置100の判定部150dは、技番号に対応する評価指標であるアイコン識別番号を、複数のアイコン識別番号から判定する(ステップS106)。
表示制御部150bは、表示画面20の領域23において、技番号に関連するアイコン(アイコン画像)を表示する(ステップS107)。表示制御部150bは、アイコンの選択を受け付けたか否かを判定する(ステップS108)。
表示制御部150bは、アイコンの選択を受け付けていない場合には(ステップS108,No)、ステップS110に移行する。一方、表示制御部150bは、アイコンの選択を受け付けた場合には(ステップS108,Yes)、3Dモデル映像に、アイコンに対応する補足情報を重畳して表示する(ステップS109)。
表示制御部150bは、処理を継続する場合には(ステップS110,Yes)、ステップS103に移行する。一方、表示制御部150bは、処理を継続しない場合には(ステップS110,No)、処理を終了する。
次に、本実施例に係る情報処理装置100の効果について説明する。情報処理装置100が表示する表示画面20の領域には、再生時刻において、競技者5が演じている技に関する評価指標を選択するためのアイコンのみを表示する。
たとえば、技「後ろ振り上がり中水平支持(2)秒」の技の評価指標に対応するアイコンを、アイコン231-1、231-2、231-3、231-4、232-2、233-3、234-4とする。この場合には、情報処理装置100は、再生時刻の技が「後ろ振り上がり中水平支持(2)秒」である場合において、全アイコンの内、アイコン231-1、231-2、231-3、231-4、232-2、233-3、234-4を受け付け可能な様態で表示する。図10、図11に示すように、領域23の各アイコンは、領域22a~22dに再生中の技のスコアを採点する場合に、着目すべき姿勢の評価指標を表示するアイコンのみを表示されている。これによって、採点の根拠となる姿勢を表示させるためのアイコンを選択する作業に時間を要することがなくなり、審判員の作業が改善される。
情報処理装置100は、再生中の3Dモデル映像の再生時刻を特定し、特定した再生時刻と、技認識結果DB82とを基にして、技番号を特定する。また、情報処理装置100は、技番号と、アイコン定義テーブル140bとを比較して、技番号に対応するアイコンを特定する。技番号は、競技者5が行った種目と技を特定するものであるため、種目と技との組に関連するアイコンを容易に特定することができる。
情報処理装置100は、技番号に対応する評価指標の定義と、3DモデルDB82dに格納された骨格データとを基にして、評価指標に対応する補助情報を生成する。このため、競技者5の骨格レベルに基づいた評価指標に対応する補助情報を生成することができ、目視により審判員の採点を補助することができる。
なお、図2に示したシステムでは、技認識装置80と、情報処理装置100とが別の装置に実装される場合について説明したがこれに限定されるものではなく、情報処理装置100が、技認識装置80の機能を有していてもよい。たとえば、情報処理装置100が、技認識装置80の制御部83に示す機能を有し、記憶部82に格納された情報を基にして、3DモデルDB82dの情報、技認識結果DB82fの情報を生成してもよい。
次に、本実施例に示した技認識装置80および情報処理装置100と同様の機能を実現するコンピュータのハードウェア構成の一例について説明する。図18は、本実施例に係る技認識装置と同様の機能を実現するコンピュータのハードウェア構成の一例を示す図である。
図18に示すように、コンピュータ400は、各種演算処理を実行するCPU401と、ユーザからのデータの入力を受け付ける入力装置402と、ディスプレイ403とを有する。また、コンピュータ400は、記憶媒体からプログラム等を読み取る読み取り装置404と、有線または無線ネットワークを介して、3Dレーザセンサ50等との間でデータの授受を行うインタフェース装置405とを有する。コンピュータ400は、各種情報を一時記憶するRAM406と、ハードディスク装置407とを有する。そして、各装置401~407は、バス408に接続される。
ハードディスク装置407は、取得プログラム407a、モデル生成プログラム407b、技認識プログラム407c、通知プログラム407dを有する。CPU401は、受信プログラム407a、生成プログラム407b、技認識プログラム407c、通知プログラム407dを読み出してRAM406に展開する。
取得プログラム407aは、取得プロセス406aとして機能する。モデル生成プログラム407bは、モデル生成プロセス406bとして機能する。技認識プログラム407cは、技認識プロセス406cとして機能する。通知プログラム407dは、通知プロセス406dとして機能する。
取得プロセス406aの処理は、取得部83aの処理に対応する。モデル生成プロセス406bの処理は、モデル生成部83bの処理に対応する。技認識プロセス406cの処理は、技認識部83cの処理に対応する。通知プロセス406dの処理は、通知部83dの処理に対応する。
なお、各プログラム407a~407dについては、必ずしも最初からハードディスク装置407に記憶させておかなくてもよい。例えば、コンピュータ400に挿入されるフレキシブルディスク(FD)、CD-ROM、DVDディスク、光磁気ディスク、ICカードなどの「可搬用の物理媒体」に各プログラムを記憶させておく。そして、コンピュータ400が各プログラム407a~407dを読み出して実行するようにしてもよい。
図19は、本実施例に係る情報処理装置と同様の機能を実現するコンピュータのハードウェア構成の一例を示す図である。
図19に示すように、コンピュータ500は、各種演算処理を実行するCPU501と、ユーザからのデータの入力を受け付ける入力装置502と、ディスプレイ503とを有する。また、コンピュータ500は、記憶媒体からプログラム等を読み取る読み取り装置504と、有線または無線ネットワークを介して、カメラ55、技認識装置80等との間でデータの授受を行うインタフェース装置505とを有する。コンピュータ500は、各種情報を一時記憶するRAM506と、ハードディスク装置507とを有する。そして、各装置501~507は、バス508に接続される。
ハードディスク装置507は、取得プログラム507a、表示制御プログラム507b、特定プログラム507c、判定プログラム507dを有する。CPU501は、取得プログラム507a、表示制御プログラム507b、特定プログラム507c、判定プログラム507dを読み出して、RAM506に展開する。
取得プログラム507aは、取得プロセス506aとして機能する。表示制御プログラム507bは、表示制御プロセス506bとして機能する。特定プログラム507cは、特定プロセス506cとして機能する。判定プログラム507dは、判定プロセス506dとして機能する。
取得プロセス506aの処理は、取得部150aの処理に対応する。表示制御プロセス506bの処理は、表示制御部150bの処理に対応する。特定プロセス506cの処理は、特定部150cの処理に対応する。判定プロセス506dの処理は、判定部150dの処理に対応する。
なお、各プログラム507a~507dについては、必ずしも最初からハードディスク装置507に記憶させておかなくてもよい。例えば、コンピュータ500に挿入されるフレキシブルディスク(FD)、CD-ROM、DVDディスク、光磁気ディスク、ICカードなどの「可搬用の物理媒体」に各プログラムを記憶させておく。そして、コンピュータ400が各プログラム507a~507dを読み出して実行するようにしてもよい。
以上の各実施例を含む実施形態に関し、さらに以下の付記を開示する。
(付記1)コンピュータが、
採点競技の競技者による一連の演技をセンシングした3Dセンシングデータと、前記採点競技における技の特徴を定義した技辞書データとを基にして認識された、前記一連の演技に含まれる複数の技の認識結果を取得し、
前記3Dセンシングデータに基づく前記一連の演技に対応する3Dモデル映像の表示中の技を、前記技の認識結果に基づき特定し、
前記表示中の技に応じて、前記採点競技の採点にかかる複数の評価指標に対応する複数の選択肢のうち、表示対象とする一部の選択肢を判定し、
前記一部の選択肢を、選択可能な態様で表示し、
前記3Dモデル映像に、前記一部の選択肢の中から選択された選択肢に対応する評価指標についての補助情報を表示する
処理を実行することを特徴とする表示方法。
(付記2)前記判定する処理は、前記3Dモデル映像で表示中のフレームの時間情報を特定し、前記時間情報において実施された技に応じて、前記複数の評価指標に対応する前記複数の選択肢のうち、前記一部の選択肢を判定することを特徴とする付記1に記載の表示方法。
(付記3)前記3Dセンシングデータに基づき認識された前記競技者の関節位置を基にして、前記補助情報を生成する処理を更に実行することを特徴とする付記1または2に記載の表示方法。
(付記4)前記特定する処理は、前記採点競技における前記複数の種目のうち、表示中の種目を更に特定し、前記判定する処理は、前記表示中の技と、前記表示中の種目との組を基にして、前記複数の評価指標に対応する前記複数の選択肢のうち、前記一部の選択肢を判定することを特徴とする付記1、2または3に記載の表示方法。
(付記5)採点競技の競技者による一連の演技をセンシングした3Dセンシングデータと、前記採点競技における技の特徴を定義した技辞書データとを基にして認識された、前記一連の演技に含まれる複数の技の認識結果を取得し、
前記3Dセンシングデータに基づく前記一連の演技に対応する3Dモデル映像の表示中の技を、前記技の認識結果に基づき特定し、
前記表示中の技に応じて、前記採点競技の採点にかかる複数の評価指標に対応する複数の選択肢のうち、表示対象とする一部の選択肢を判定し、
前記一部の選択肢を、選択可能な態様で表示し、
前記3Dモデル映像に、前記一部の選択肢の中から選択された選択肢に対応する評価指標についての補助情報を表示する
処理をコンピュータに実行させることを特徴とする表示プログラム。
(付記6)前記判定する処理は、前記3Dモデル映像で表示中のフレームの時間情報を特定し、前記時間情報において実施された技に応じて、前記複数の評価指標に対応する前記複数の選択肢のうち、前記一部の選択肢を判定することを特徴とする付記5に記載の表示プログラム。
(付記7)前記3Dセンシングデータに基づき認識された前記競技者の関節位置を基にして、前記補助情報を生成する処理を更に実行することを特徴とする付記5または6に記載の表示プログラム。
(付記8)前記特定する処理は、前記採点競技における前記複数の種目のうち、表示中の種目を更に特定し、前記判定する処理は、前記表示中の技と、前記表示中の種目との組を基にして、前記複数の評価指標に対応する前記複数の選択肢のうち、前記一部の選択肢を判定することを特徴とする付記5、6または7に記載の表示プログラム。
(付記9)採点競技の競技者による一連の演技をセンシングした3Dセンシングデータと、前記採点競技における技の特徴を定義した技辞書データとを基にして認識された、前記一連の演技に含まれる複数の技の認識結果を取得する取得部と、
前記3Dセンシングデータに基づく前記一連の演技に対応する3Dモデル映像の表示中の技を、前記技の認識結果に基づき特定する特定部と、
前記表示中の技に応じて、前記採点競技の採点にかかる複数の評価指標に対応する複数の選択肢のうち、表示対象とする一部の選択肢を判定する判定部と、
前記一部の選択肢を、選択可能な態様で表示し、前記3Dモデル映像に、前記一部の選択肢の中から選択された選択肢に対応する評価指標についての補助情報を表示する表示制御部と
を有することを特徴とする情報処理装置。
(付記10)前記判定部は、前記3Dモデル映像で表示中のフレームの時間情報を特定し、前記時間情報において実施された技に応じて、前記複数の評価指標に対応する前記複数の選択肢のうち、前記一部の選択肢を判定することを特徴とする付記9に記載の情報処理装置。
(付記11)前記判定部は、前記3Dセンシングデータに基づき認識された前記競技者の関節位置を基にして、前記補助情報を生成する処理を更に実行することを特徴とする付記9または10に記載の情報処理装置。
(付記12)前記特定部は、前記採点競技における前記複数の種目のうち、表示中の種目を更に特定し、前記判定部は、前記表示中の技と、前記表示中の種目との組を基にして、前記複数の評価指標に対応する前記複数の選択肢のうち、前記一部の選択肢を判定することを特徴とする付記9、10または11に記載の情報処理装置。
5 競技者
50 3Dレーザセンサ
55 カメラ
80 技認識装置
81,110 通信部
82,140 記憶部
82a センシングDB
82b 関節定義データ
82c 関節位置DB
82d 3DモデルDB
82e 技辞書データ
82f 技認識結果DB
83,150 制御部
83a,150a 取得部
83b モデル生成部
83c 技認識部
83d 通信部
100 情報処理装置
140a 映像DB
140b アイコン定義テーブル
140c 評価指標テーブル
150b 表示制御部
150c 特定部
150d 判定部

Claims (6)

  1. コンピュータが、
    採点競技の競技者による一連の演技をセンシングした3Dセンシングデータと、前記採点競技における技の特徴を定義した技辞書データとを基にして認識された、前記一連の演技に含まれる複数の技の認識結果を取得し、
    前記3Dセンシングデータに基づく前記一連の演技に対応する3Dモデル映像の表示中の技を、前記技の認識結果に基づき特定し、
    前記表示中の技に応じて、前記採点競技の採点にかかる複数の評価指標に対応する複数の選択肢のうち、表示対象とする一部の選択肢を判定し、
    前記一部の選択肢を、選択可能な態様で表示し、
    前記3Dモデル映像に、前記一部の選択肢の中から選択された選択肢に対応する評価指標についての補助情報を表示する
    処理を実行することを特徴とする表示方法。
  2. 前記判定する処理は、前記3Dモデル映像で表示中のフレームの時間情報を特定し、前記時間情報において実施された技に応じて、前記複数の評価指標に対応する前記複数の選択肢のうち、前記一部の選択肢を判定することを特徴とする請求項1に記載の表示方法。
  3. 前記3Dセンシングデータに基づき認識された前記競技者の関節位置を基にして、前記補助情報を生成する処理を更に実行することを特徴とする請求項1または2に記載の表示方法。
  4. 前記特定する処理は、前記採点競技における複数の種目のうち、表示中の種目を更に特定し、前記判定する処理は、前記表示中の技と、前記表示中の種目との組を基にして、前記複数の評価指標に対応する前記複数の選択肢のうち、前記一部の選択肢を判定することを特徴とする請求項1、2または3に記載の表示方法。
  5. 採点競技の競技者による一連の演技をセンシングした3Dセンシングデータと、前記採点競技における技の特徴を定義した技辞書データとを基にして認識された、前記一連の演技に含まれる複数の技の認識結果を取得し、
    前記3Dセンシングデータに基づく前記一連の演技に対応する3Dモデル映像の表示中の技を、前記技の認識結果に基づき特定し、
    前記表示中の技に応じて、前記採点競技の採点にかかる複数の評価指標に対応する複数の選択肢のうち、表示対象とする一部の選択肢を判定し、
    前記一部の選択肢を、選択可能な態様で表示し、
    前記3Dモデル映像に、前記一部の選択肢の中から選択された選択肢に対応する評価指標についての補助情報を表示する
    処理をコンピュータに実行させることを特徴とする表示プログラム。
  6. 採点競技の競技者による一連の演技をセンシングした3Dセンシングデータと、前記採点競技における技の特徴を定義した技辞書データとを基にして認識された、前記一連の演技に含まれる複数の技の認識結果を取得する取得部と、
    前記3Dセンシングデータに基づく前記一連の演技に対応する3Dモデル映像の表示中の技を、前記技の認識結果に基づき特定する特定部と、
    前記表示中の技に応じて、前記採点競技の採点にかかる複数の評価指標に対応する複数の選択肢のうち、表示対象とする一部の選択肢を判定する判定部と、
    前記一部の選択肢を、選択可能な態様で表示し、前記3Dモデル映像に、前記一部の選択肢の中から選択された選択肢に対応する評価指標についての補助情報を表示する表示制御部と
    を有することを特徴とする情報処理装置。
JP2018228225A 2018-12-05 2018-12-05 表示方法、表示プログラムおよび情報処理装置 Active JP7205201B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018228225A JP7205201B2 (ja) 2018-12-05 2018-12-05 表示方法、表示プログラムおよび情報処理装置
EP19207721.2A EP3663968A1 (en) 2018-12-05 2019-11-07 Display method, display program, and information processing apparatus
US16/687,714 US20200179759A1 (en) 2018-12-05 2019-11-19 Display method, information processing apparatus, and computer-readable recording medium
CN201911189730.XA CN111265840B (zh) 2018-12-05 2019-11-28 显示方法、信息处理设备和计算机可读记录介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018228225A JP7205201B2 (ja) 2018-12-05 2018-12-05 表示方法、表示プログラムおよび情報処理装置

Publications (2)

Publication Number Publication Date
JP2020089539A JP2020089539A (ja) 2020-06-11
JP7205201B2 true JP7205201B2 (ja) 2023-01-17

Family

ID=68502921

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018228225A Active JP7205201B2 (ja) 2018-12-05 2018-12-05 表示方法、表示プログラムおよび情報処理装置

Country Status (4)

Country Link
US (1) US20200179759A1 (ja)
EP (1) EP3663968A1 (ja)
JP (1) JP7205201B2 (ja)
CN (1) CN111265840B (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
USD870774S1 (en) * 2017-09-29 2019-12-24 Apple Inc. Wearable device with animated graphical user interface
JP7317498B2 (ja) * 2018-12-14 2023-07-31 キヤノン株式会社 処理システム、処理装置、処理方法、およびプログラム
EP4316614A4 (en) 2021-04-01 2024-05-01 Fujitsu Ltd SKILL RECOGNITION METHOD, SKILL RECOGNITION APPARATUS AND GYMNASTICS SCORING SUPPORT SYSTEM
US11099709B1 (en) * 2021-04-13 2021-08-24 Dapper Labs Inc. System and method for creating, managing, and displaying an interactive display for 3D digital collectibles
US11210844B1 (en) 2021-04-13 2021-12-28 Dapper Labs Inc. System and method for creating, managing, and displaying 3D digital collectibles
USD991271S1 (en) 2021-04-30 2023-07-04 Dapper Labs, Inc. Display screen with an animated graphical user interface
US11227010B1 (en) 2021-05-03 2022-01-18 Dapper Labs Inc. System and method for creating, managing, and displaying user owned collections of 3D digital collectibles
US11170582B1 (en) 2021-05-04 2021-11-09 Dapper Labs Inc. System and method for creating, managing, and displaying limited edition, serialized 3D digital collectibles with visual indicators of rarity classifications
US11533467B2 (en) 2021-05-04 2022-12-20 Dapper Labs, Inc. System and method for creating, managing, and displaying 3D digital collectibles with overlay display elements and surrounding structure display elements

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017204278A (ja) 2012-01-18 2017-11-16 ナイキ イノベイト シーブイ アクティビティの識別
WO2018211571A1 (ja) 2017-05-15 2018-11-22 富士通株式会社 演技表示プログラム、演技表示方法および演技表示装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003033461A (ja) 2001-07-24 2003-02-04 Sanyo Electric Co Ltd スポーツにおける個人競技力評価方法および装置
CN101541387B (zh) * 2007-02-14 2013-04-17 耐克国际有限公司 运动信息的收集和显示
US8175326B2 (en) * 2008-02-29 2012-05-08 Fred Siegel Automated scoring system for athletics
US8755569B2 (en) * 2009-05-29 2014-06-17 University Of Central Florida Research Foundation, Inc. Methods for recognizing pose and action of articulated objects with collection of planes in motion
JP2016034481A (ja) * 2014-07-31 2016-03-17 セイコーエプソン株式会社 情報分析装置、運動解析システム、情報分析方法、分析プログラム、画像生成装置、画像生成方法、画像生成プログラム、情報表示装置、情報表示システム、情報表示プログラム及び情報表示方法
US10186041B2 (en) * 2015-04-09 2019-01-22 Electronics And Telecommunications Research Institute Apparatus and method for analyzing golf motion
CA3031040C (en) * 2015-07-16 2021-02-16 Blast Motion Inc. Multi-sensor event correlation system
CN105344087A (zh) * 2015-11-09 2016-02-24 南京新恒鼎体育推广有限公司 一种竞赛计分系统
US9870622B1 (en) * 2016-07-18 2018-01-16 Dyaco International, Inc. Systems and methods for analyzing a motion based on images
JP2018068516A (ja) 2016-10-26 2018-05-10 国立大学法人名古屋大学 運動動作評価システム
JP2018086240A (ja) 2016-11-22 2018-06-07 セイコーエプソン株式会社 ワークアウト情報表示方法、ワークアウト情報表示システム、サーバーシステム、電子機器、情報記憶媒体及びプログラム
CN106826823A (zh) * 2017-02-04 2017-06-13 周斌 一种裁判机器人的软件控制系统

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017204278A (ja) 2012-01-18 2017-11-16 ナイキ イノベイト シーブイ アクティビティの識別
WO2018211571A1 (ja) 2017-05-15 2018-11-22 富士通株式会社 演技表示プログラム、演技表示方法および演技表示装置

Also Published As

Publication number Publication date
CN111265840B (zh) 2021-08-13
CN111265840A (zh) 2020-06-12
JP2020089539A (ja) 2020-06-11
US20200179759A1 (en) 2020-06-11
EP3663968A1 (en) 2020-06-10

Similar Documents

Publication Publication Date Title
JP7205201B2 (ja) 表示方法、表示プログラムおよび情報処理装置
JP7222226B2 (ja) 表示方法、表示プログラムおよび情報処理装置
US11263462B2 (en) Non-transitory computer readable recording medium, extraction method, and information processing apparatus
JP6017223B2 (ja) ゲームシステム、ゲーム装置、及びプログラム
US11826628B2 (en) Virtual reality sports training systems and methods
JPWO2019043928A1 (ja) 練習支援プログラム、練習支援方法および練習支援システム
WO2015112646A1 (en) Virtual team sport trainer
JP4264368B2 (ja) 実技分析システム及びプログラム
TWI316415B (ja)
JP2001232061A (ja) ゲーム装置および情報記憶媒体
JP7268738B2 (ja) 表示方法、表示プログラムおよび情報処理装置
JP7070675B2 (ja) 表示方法、表示プログラムおよび情報処理装置
US11526250B2 (en) Information processing apparatus, method for controlling the same, and storage medium
JP5942908B2 (ja) 表示制御装置、表示制御方法及びプログラム
JP5240317B2 (ja) ダイジェスト画像表示装置、ダイジェスト画像表示方法及びプログラム
JP2009056053A (ja) ゲーム装置及びゲーム処理方法
JP6965975B2 (ja) 映像処理装置、マルチカメラシステム、映像処理方法、及び映像処理プログラム
JP2019176260A (ja) 表示プログラム、表示方法および表示装置
JP6969640B2 (ja) 解析用データ収集装置、その方法、及びプログラム
JP6766707B2 (ja) 映像処理装置、マルチカメラシステム、映像処理方法、及び映像処理プログラム
JP2022173865A (ja) プレイ分析装置、プレイ分析方法、及び、コンピュータプログラム
KR20020046862A (ko) 카메라를 이용한 동작비교장치 및 그 비교방법
KR980010850A (ko) 단체 구기에 있어서의 공격 및 수비체제를 확인하고 교정하기 위한 방법과 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210810

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220622

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220726

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220805

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221129

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221212

R150 Certificate of patent or registration of utility model

Ref document number: 7205201

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150