JPWO2019146024A1 - 画面生成プログラム、画面生成方法および情報処理装置 - Google Patents

画面生成プログラム、画面生成方法および情報処理装置 Download PDF

Info

Publication number
JPWO2019146024A1
JPWO2019146024A1 JP2019567450A JP2019567450A JPWO2019146024A1 JP WO2019146024 A1 JPWO2019146024 A1 JP WO2019146024A1 JP 2019567450 A JP2019567450 A JP 2019567450A JP 2019567450 A JP2019567450 A JP 2019567450A JP WO2019146024 A1 JPWO2019146024 A1 JP WO2019146024A1
Authority
JP
Japan
Prior art keywords
performance
score
technique
information
predicted
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019567450A
Other languages
English (en)
Other versions
JP6923006B2 (ja
Inventor
和己 久保田
和己 久保田
内藤 宏久
宏久 内藤
松本 剛
松本  剛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Publication of JPWO2019146024A1 publication Critical patent/JPWO2019146024A1/ja
Application granted granted Critical
Publication of JP6923006B2 publication Critical patent/JP6923006B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B71/00Games or sports accessories not covered in groups A63B1/00 - A63B69/00
    • A63B71/06Indicating or scoring devices for games or players, or for other sports activities
    • A63B71/0619Displays, user interfaces and indicating devices, specially adapted for sport equipment, e.g. display mounted on treadmills
    • A63B71/0669Score-keepers or score display devices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/23Recognition of whole body movements, e.g. for sport training
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B24/00Electric or electronic controls for exercising apparatus of preceding groups; Controlling or monitoring of exercises, sportive games, training or athletic performances
    • A63B24/0021Tracking a path or terminating locations
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B69/00Training appliances or apparatus for special sports
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B71/00Games or sports accessories not covered in groups A63B1/00 - A63B69/00
    • A63B71/06Indicating or scoring devices for games or players, or for other sports activities
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/41Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
    • G06V20/42Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items of sport video content
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B24/00Electric or electronic controls for exercising apparatus of preceding groups; Controlling or monitoring of exercises, sportive games, training or athletic performances
    • A63B24/0021Tracking a path or terminating locations
    • A63B2024/0025Tracking the path or location of one or more users, e.g. players of a game
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B71/00Games or sports accessories not covered in groups A63B1/00 - A63B69/00
    • A63B71/06Indicating or scoring devices for games or players, or for other sports activities
    • A63B2071/0694Visual indication, e.g. Indicia
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B2220/00Measuring of physical parameters relating to sporting activity
    • A63B2220/05Image processing for measuring physical parameters
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B2220/00Measuring of physical parameters relating to sporting activity
    • A63B2220/80Special sensors, transducers or devices therefor
    • A63B2220/806Video cameras

Landscapes

  • Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Physical Education & Sports Medicine (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Psychiatry (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Social Psychology (AREA)
  • User Interface Of Digital Computer (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)

Abstract

情報処理装置100は、競技者による実演技が開始した場合に、リアルタイムで取得するデータに基づき、実演技の中で、実施済みの技および実施済みの技のスコアを取得する。情報処理装置100は、予定演技情報およびデータの少なくとも一方に基づき、実演技の中で、これから実施される可能性が高い未実施の技を予測する。情報処理装置100は、実施済みの技のスコアと、予測された未実施の技が成功した場合の予測スコアとに基づき、実施中の実演技の予測スコアを予測し、予定演技の予測スコアと、実演技の予測スコアとを表示する画面情報を生成する。

Description

本発明は、画面生成プログラム等に関する。
採点競技において、選手は、複数の技からなる演技を実施する。選手が実施する演技の構成は、シーズンを通してある程度決まっている場合が多い。このため、試合本番前の練習、予選の試合、試合本番等において、選手が行う演技構成を予測することは可能であり、演技のスコアを予測することも可能である。
特開2004−109264号公報 特開2012−042287号公報 特開2015−228183号公報 特開2011−081431号公報
しかしながら、上述した従来技術では、採点競技における予定演技の予測スコアと、演技の進行に伴う予測スコアとを提供することができないという問題がある。
たとえば、選手は、本番直前に、順位の逆転を狙うために技の難度を上げる場合や、試合当日のコンディションに応じて、予定していた演技の構成を一部変更する場合がある。または、選手は、演技の途中で、選手自身の判断により、一部の技を変更したりする場合がある。このような場合には、想定していた演技構成と異なるため、演技のスコアを予測することは難しい。
1つの側面では、本発明は、採点競技における予定演技の予測スコアと、演技の進行に伴う予測スコアとを提供することができる画面生成プログラム、画面生成方法および情報処理装置を提供することを目的とする。
第1の案では、コンピュータに下記の処理を実行させる。コンピュータは、採点競技の競技者が実施予定の複数の技を含む予定演技情報を取得する。コンピュータは、予定演技情報から、複数の技が成功した場合の第一の予測スコアを算出する。コンピュータは、予定演技の第一の予測スコアを表示する画面情報を生成する。コンピュータは、競技者による実演技が開始した場合に、実演技をセンシングしたデータを、リアルタイムで取得する。コンピュータは、データに基づき、実演技の中で、実施済みの技および実施済みの技のスコアを取得する。コンピュータは、予定演技情報およびデータの少なくとも一方に基づき、実演技の中で、これから実施される可能性が高い未実施の技を予測する。コンピュータは、実施済みの技のスコアと、予測された未実施の技が成功した場合の第二の予測スコアとに基づき、実施中の実演技全体の第三の予測スコアを予測する。コンピュータは、第一の予測スコアと、第三の予測スコアとを表示する画面情報を生成する。
採点競技における予定演技の予測スコアと、演技の進行に伴う予測スコアとを提供することができる。
図1は、本実施例1に係るシステムの一例を示す図である。 図2は、センシングデータを説明するための図である。 図3は、本実施例1に係るセンシングDBのデータ構造の一例を示す図である。 図4は、本実施例1に係る関節定義データの一例を示す図である。 図5は、本実施例1に係る関節位置DBのデータ構造の一例を示す図である。 図6は、本実施例1に係る技判定テーブルのデータ構造の一例を示す図である。 図7は、開始姿勢および終末姿勢の一例を説明するための図である。 図8は、本実施例1に係る技認識DBのデータ構造の一例を示す図である。 図9は、演技開始前の表示画面の一例を示す図である。 図10は、演技中の表示画面の一例を示す図である。 図11は、演技終了後の表示画面の一例を示す図である。 図12は、本実施例1に係る情報処理装置の構成を示す機能ブロック図である。 図13は、本実施例1に係る映像DBのデータ構造の一例を示す図である。 図14は、本実施例1に係る演技履歴テーブルのデータ構造の一例を示す図である。 図15は、演技構成情報の一例を示す図である。 図16は、本実施例1に係るスコアテーブルのデータ構造の一例を示す図である。 図17は、本実施例1に係る難度テーブルのデータ構造の一例を示す図である。 図18は、演技遷移フロー情報の一例を示す図である。 図19は、本実施例1に係る画面生成部の処理の一例を説明するための図(1)である。 図20は、本実施例1に係る画面生成部の処理の一例を説明するための図(2)である。 図21は、本実施例1に係る情報処理装置の処理手順を示すフローチャートである。 図22は、演技中処理の処理手順を示すフローチャートである。 図23は、本実施例2に係るシステムの一例を示す図である。 図24は、本実施例2に係る情報処理装置が表示する表示画面の一例を示す図である。 図25は、本実施例2に係る情報処理装置の構成を示す機能ブロック図である。 図26は、本実施例2に係る認識部の処理を説明するための図である。 図27は、本実施例2に係る演技中の表示画面の一例を示す図である。 図28は、本実施例2に係る情報処理装置の処理手順を示すフローチャートである。 図29は、予測処理の一例を示すフローチャートである。 図30は、情報処理装置と同様の機能を実現するコンピュータのハードウェア構成の一例を示す図である。
以下に、本願の開示する画面生成プログラム、画面生成方法および情報処理装置の実施例を図面に基づいて詳細に説明する。なお、この実施例によりこの発明が限定されるものではない。
図1は、本実施例1に係るシステムの一例を示す図である。図1に示すように、このシステムは、3D(3 dimension)レーザセンサ50と、カメラ60と、技認識装置70と、情報処理装置100とを有する。情報処理装置100は、カメラ60、技認識装置70に接続される。本実施例1では一例として、競技者10は、3Dレーザセンサ50およびカメラ60の前方で体操演技を行う場合について説明するが、競技者10が他の採点競技を行う場合にも同様に適用することができる。
たとえば、他の採点競技は、トランポリン、水泳の飛び込み、フィギュアスケート、空手の型、社交ダンス、スノーボード、スケートボード、スキーエアリアル、サーフィンを含む。また、クラシックバレエ、スキージャンプ、モーグルのエアー、ターン、野球、バスケットボールのフォームチェック等にも適用してもよい。また、剣道、柔道、レスリング、相撲などの競技にも適用してもよい。
3Dレーザセンサ50は、競技者10に対して3Dセンシングを行うセンサである。3Dレーザセンサ50は、センシング結果となる3Dセンシングデータを、技認識装置70に出力する。以下の説明では、3Dセンシングデータを、単に、センシングデータと表記する。
図2は、センシングデータを説明するための図である。センシングデータには、複数のフレームが含まれ、各フレームには、フレームを一意に識別するフレーム番号が昇順に付与される。図2に示すセンシングデータでは、古いフレームから順番に、フレーム番号n、n+1、・・・、n+15、・・・、n+30のフレームを示す。nは自然数に対応する。たとえば、各フレームには、3Dレーザセンサ50から、競技者10上の各点までの距離情報が含まれる。
カメラ60は、競技者10の映像データを撮影する装置である。カメラ60は、映像データを、情報処理装置100に出力する。映像データには、競技者10の画像に相当する複数のフレームが含まれ、各フレームには、フレーム番号が割り振られる。映像データのフレーム番号と、センシングデータのフレーム番号とは、同期しているものとする。また、下記の説明では、適宜、センシングデータに含まれるフレームを、「センシングフレーム」と表記し、映像データのフレームを「映像フレーム」と表記する。
技認識装置70は、3Dレーザセンサ50がセンシングしたセンシングデータを基にして、技を認識する装置である。技認識装置70は、センシングデータの各フレーム番号と、各認識結果とをそれぞれ対応づけた認識結果データを生成する。技認識装置70は、認識結果データを、情報処理装置100に出力する。ここでは一例として、技認識装置70が、情報処理装置100の外部に位置する場合を示すが、情報処理装置100が、技認識装置70と同様の処理を行う機能部を有していてもよい。
たとえば、技認識装置70は、センシングDB71、関節定義データ72、関節位置DB73、技判定テーブル74、技認識DB75を有する。センシングDB(Data Base)71は、3Dレーザセンサ50から取得するセンシングデータを格納するDBである。図3は、本実施例1に係るセンシングDBのデータ構造の一例を示す図である。図3に示すように、このセンシングDB71は、フレーム番号と、センシングフレームとを対応づける。フレーム番号は、同一の演技識別番号に対応する各センシングフレームを、一意に識別する番号である。センシングフレームは、3Dレーザセンサ50にセンシングされたセンシングフレームである。
関節定義データ72は、競技者10の各関節位置を定義するものである。図4は、本実施例1に係る関節定義データの一例を示す図である。図4に示すように、関節定義データ72は、公知の骨格モデルで特定される各関節をナンバリングした情報を記憶する。たとえば、図4に示すように、右肩関節(SHOULDER_RIGHT)には7番が付与され、左肘関節(ELBOW_LEFT)には5番が付与され、左膝関節(KNEE_LEFT)には11番が付与され、右股関節(HIP_RIGHT)には14番が付与される。ここで、実施例1では、8番の右肘関節のX座標をX8、Y座標をY8、Z座標をZ8と記載する場合がある。なお、点線の数字は、骨格モデルから特定されても、採点には利用されない関節等である。
関節位置DB73は、3Dレーザセンサ50のセンシングデータを基に生成される競技者10の各関節の位置データである。図5は、本実施例1に係る関節位置DBのデータ構造の一例を示す図である。図5に示すように、この関節位置DB73は、フレーム番号と、「X0、Y0、Z0、・・・、X17、Y17、Z17」とを対応づける。
図5において、フレーム番号は、センシングフレームを一意に識別する番号である。図5に示すフレーム番号と、図3に示すフレーム番号は、同期しているものとする。「X0、Y0、Z0、・・・、X17、Y17、Z17」は、各関節のXYZ座標であり、たとえば「X0、Y0、Z0」は、図4に示す0番号の関節の3次元座標である。
図5は、各関節の時系列の変化を示しており、フレーム番号「1」では、各関節の位置が「X0=100、Y0=20、Z0=0、・・・、X17=200、Y17=40、Z17=5」であることを示す。そして、フレーム番号「2」では、各関節の位置が「X0=101、Y0=25、Z0=5、・・・、X17=202、Y17=39、Z17=15」へ移動したことを示す。
技判定テーブル74は、競技者10が行う技を判定する際に用いるテーブルである。図6は、本実施例1に係る技判定テーブルのデータ構造の一例を示す図である。図6に示すように、この技判定テーブルは、技グループと、技番号と、技名と、開始姿勢と、開始姿勢の成立条件と、終末姿勢と、終末姿勢の成立条件とを対応付ける。
技グループと技番号との組合せにより、技(技名)が一意に特定される。技グループと技番号とを組み合わせたものが、技の識別情報となる。技名は、技の名称である。
開始姿勢は、技の開始姿勢を示すものである。開始姿勢の成立条件は、該当する開始姿勢の成立する条件を示す。たとえば、開始姿勢の成立条件は、該当する開始姿勢となる各関節の位置の推移を示す。終末姿勢は、技の終末姿勢(静止姿勢)を示すものである。たとえば、終末姿勢の成立条件は、該当する終末姿勢となる各関節の位置の関係を示す。
図7は、開始姿勢および終末姿勢の一例を説明するための図である。図7では一例として、競技者10が技「後ろ振り上がり中水平支持(2秒)」を行う例を示している。競技者10は、期間Taにおいて、開始姿勢「後ろ振り上がり」を行い、期間Tbにおいて、終末姿勢「中水平支持(2秒)」を行っている。この開始姿勢「後ろ振り上がり」と終末姿勢「中水平支持(2秒)」との組合せにより、技「後ろ振り上がり中水平支持(2秒)」となる。このように、開始姿勢および終末姿勢が決まると、技も決まる。
技認識DB75は、技の認識結果データを格納するDBである。図8は、本実施例1に係る技認識DBのデータ構造の一例を示す図である。図8に示すように、この技認識DB74は、フレーム番号と、関節位置データ、開始姿勢フラグと、終末姿勢フラグと、技グループと、技番号と、技名とを対応付ける。
フレーム番号は、図3で説明したセンシングフレームのフレーム番号に対応する番号である。関節位置データは、図5等で説明した、各フレーム番号に対応する各関節位置の3次元座標を示す情報である。開始姿勢フラグは、競技者10の姿勢が開始姿勢であるか否かを示す情報である。開始姿勢フラグが「1」となる間は、競技者10の姿勢が開始姿勢であることを示す。終末姿勢は、競技者10の姿勢が終末姿勢であるか否かを示す情報である。終末姿勢フラグが「1」となる間は、競技者10の姿勢が終末姿勢であることを示す。技グループおよび技番号の組は、技を一意に識別する情報である。技名は、技の名称を示すものである。
図1の説明に戻る。技認識装置70が、センシングDB71、関節定義データ72、関節位置DB73、技判定テーブル74、技認識DB75を用いて行う処理について説明する。
技認識装置70は、センシングDB71のセンシングフレームと、関節定義データ72に定義された各関節の位置関係とを比較して、センシングフレームに含まれる各関節の種別および関節の3次元座標を特定する。技認識装置70は、センシングDB71のフレーム番号毎に上記処理を繰り返し実行し、各関節の3次元座標の情報を、関節位置DB73に格納する。
技認識装置70は、フレーム番号毎に、各関節の3次元座標の情報と、技判定テーブル74とを比較して、開始姿勢および終末姿勢を特定する。また、技認識装置70は、特定した開始姿勢および終末姿勢の組合せと、技判定テーブル74とを比較することで、フレーム番号に対応する技グループ、技番号、技名を特定する。
技認識装置70は、フレーム番号、関節位置データ、開始姿勢フラグ、終末姿勢フラグ、技グループ、技番号、技名を対応付けた情報を、技認識DB75に格納する。また、技認識装置70は、技認識DB75に格納した各レコードを、認識結果データとして、情報処理装置100に出力する。たとえば、技認識装置70は、3Dレーザセンサ50から取得するセンシングデータに対して、上記処理をリアルタイム処理し、認識結果データを、情報処理装置100に出力するものとする。
情報処理装置100は、競技者10が過去に行った演技構成の履歴を基にして、競技者10の一連の予定演技から算出される予測スコアを表示する装置である。また、情報処理装置100は、競技者10の実際の演技の進行に伴って、競技者10の演技が変更になった場合には、後の予測演技を更新しつつ、演技更新に応じて、予測スコアを更新する。
ここで、情報処理装置100が表示する画面の一例について説明する。図9は、演技開始前の表示画面の一例を示す図である。図9に示す例では、表示画面10Aには、映像領域10aと、予測演技リスト10bと、Dスコア領域10cと、Eスコア領域10d、得点領域10e、順位予測領域10fとを含む。
映像領域10aは、競技者10の映像データを表示する領域である。たとえば、情報処理装置100は、競技者10が過去に行った予選演技の映像データを、映像領域10aに表示する。
予測演技リスト10bは、競技者10が行うと予測される一連の技(演技)の情報を表示するものである。たとえば、予測演技リスト10bは、技名と、技グループと、技番号と、難度とを対応付ける。技名、技グループ、技番号に関する説明は、上述した説明と同様である。難度は、技の難しさの程度を示すものである。男子には、「A〜H」の難度があり、女子には、「A〜I」の難度がある。
予測演技リスト10bは、1行目の技(技名)から順に、下の行に向かって各技が実行されることを示す。図9に示す例では、後ろ振り上がり中水平支持(2秒)、後ろ振り上がり水平支持(2秒)、アザリアン、後ろ振り上がり倒立(2秒)、ジョナサン、ヤマワキ、ホンマ十字が順に実行される。また、続いて、ほん転逆上がり倒立(2秒)、伸腕ほん転逆上がり倒立経過、後方かかえ込み2回宙返り2回ひねり下りの順に実行される旨が示される。
Dスコア領域10cは、予測演技リスト10bの技を競技者10が予定通り行った場合のDスコアを表示する領域である。D(Difficulty)スコアは、演技を構成する技の難度に応じて算出されるスコアである。
Eスコア領域10dは、予測演技リスト10bの技を競技者10が過去の行った実績を基に算出されるEスコアを表示する領域である。E(Execution)スコアは、演技の技術、技の各要素における身体の姿勢に関する減点法により算出されるスコアである。たとえば、ある技の理想的な姿勢と、競技者10の姿勢とが比較され、各姿勢の乖離具合が大きいほど、Eスコアからスコアが減点される。
得点領域10eは、競技者10が予測演技リスト10bの技を予定通り行った場合に予測されるスコアを表示する領域である。具体的に、情報処理装置100は、Dスコア領域10cに表示するDスコアと、Eスコア領域10dに表示するEスコアとを合計したスコアを、得点領域10eに表示させる。
順位予測領域10fは、複数の競技者に関する予測順位の情報を表示する領域である。たとえば、順位予測領域10fは、順位と、競技者の名前と、予測得点とを対応付ける。
たとえば、図9に示す演技開始前の表示画面10Aを、ユーザ(TV中継の実況アナウンサーあるいは視聴者)が参照することで、競技者10が演技する技の順序、Dスコア、Eスコア、スコア、順位を容易に把握することができる。
図10は、演技中の表示画面の一例を示す図である。図10に示す例では、表示画面11には、演技リスト11aと、演技遷移情報11bと、Dスコア領域11cと、Eスコア領域11dと、得点領域11eと、順位予測領域11fとを含む。
演技リスト11aは、演技中の競技者10が実際に行った技と、これから競技者10が行うと予測される技の情報を表示するものである。演技リスト11aは、技名と、技グループと、枝番と、難度とを対応付ける。たとえば、情報処理装置100は、競技者10が現在行っている技の技名と、次に行う技の技名とを強調表示してもよい。図10に示す例では、演技リスト11aにおいて、競技者10が現在行っている技の技名「アザリアン」と、次の演技が予測される「後ろ振り上がり十字倒立(2秒)」とを強調表示している。
演技遷移情報11bは、競技者10が実際に行った技の遷移と、これから競技者10が行うと予測される技の遷移を示す情報である。演技遷移情報11bには、開始を示すノードと、技を示す複数のノードとが接続されている。たとえば、技を示すノードには、技グループと、技番号との組が付与される。また、ある技から次の技に遷移する際に、遷移先の候補が複数存在する場合には、遷移先に遷移する確率が合わせて表示される。
図10の演技遷移情報11bに示すように、開始のノードからノード「G3−53」に遷移することが示される。ノード「G3−53」の遷移先は、ノード「G3−70」およびノード「G2−52」である。ノード「G3−53」からノード「G3−70」に遷移する確率は「60%」である。一方、ノード「G3−53」からノード「G2−52」に遷移する確率は「40%」である。また、ノード「G3−70」の遷移先は、ノード「G2−52」である。
ノード「G2−52」の遷移先は、ノード「G3−94」およびノード「G1−87」である。ノード「G2−52」からノード「G1−87」に遷移する確率は「60%」である。一方、ノード「G2−52」からノード「G3−94」に遷移する確率は「40%」である。また、ノード「G3−94」の遷移先は、ノード「G1−87」である。
ノード「G1−87」に続く、ノードの遷移先は、順に、ノード「G1−52」、「G1−51」、「G3−16」、「G1−81」、「G1−26」、「G4−41」となる。
情報処理装置100は、競技者10が現在行っている技に対応するノードと、次に遷移するノードを強調表示する。情報処理装置100は、次に遷移するノードが複数存在する場合には、遷移する確率の高いノードを強調表示する。
Dスコア領域11cは、演技開始から、競技者10が実際に行った技と、続く技を予定通り行った場合のDスコアを表示する領域である。たとえば、図10に示す演技リスト11aにおいて、競技者10が、アザリアンまで実際に行ったものとする。この場合には、実際におこなわれた技と、続いて予測される技とを基にしたDスコアが算出され、かかるDスコアが、Dスコア領域11cに表示される。実際に行われた技は、後ろ振り上がり中水平支持(2秒)、アザリアンとなる。続いて予測される技は、後ろ振り上がり倒立(2秒)、ジョナサン、ヤマワキ、ホンマ十字、ほん転逆上がり倒立(2秒)、伸腕ほん転逆上がり倒立経過、後方かかえ込み2回宙返り2回ひねり下りとなる。
Eスコア領域11dは、演技開始から、競技者10が実際に行った技と、続く技を予定通り行った場合のEスコアを表示する領域である。たとえば、図10に示す演技リスト11aにおいて、競技者10が、アザリアンまで実際に行ったものとする。この場合には、実際に行われた技と、続いて予測される技とを基にしたEスコアが算出され、かかるEスコアが、Eスコア領域11dに表示される。実際に行われた技は、後ろ振り上がり中水平支持(2秒)、アザリアンとなる。続いて予測される技は、後ろ振り上がり倒立(2秒)、ジョナサン、ヤマワキ、ホンマ十字、ほん転逆上がり倒立(2秒)、伸腕ほん転逆上がり倒立経過、後方かかえ込み2回宙返り2回ひねり下りとなる。
得点領域11eは、演技開始から、競技者10が実際に行った技と、続く技を予定通り行った場合のスコアを表示する領域である。具体的に、情報処理装置100は、Dスコア領域11cのDスコアと、Eスコア領域11dのEスコアとを合計したスコアを、得点領域11eに表示させる。
順位予測領域11fは、複数の競技者に関する予測順にの情報を表示する領域である。たとえば、順位予測領域11fは、順位と、競技者の名前と、予測得点と、順位の変更状況とを対応付ける。情報処理装置100は、競技者10の演技進行に伴い、得点領域11eの更新に伴って、順位が上昇する場合には、順位の変更情報に上の印を表示する。情報処理装置100は、順位が下降する場合には、順位の変更情報に下の印を表示する。
たとえば、図10に示す表示画面11を、TV中継の実況アナウンサーが参照すると、技の変更を一目で把握できるため、アナウンサーの実況をサポートすることができる。たとえば、図10において、ノード「G3−53」の遷移先が、ノード「G2−52」から、ノード「G3−70」に変更となった場合には、「予定の技G3−53を、技G3−70に変更して、逆転を狙ってきた」等の実況を行うことができる。また、図10に示す表示画面11を、視聴者が参照すると、いま行われている技の理解を補助することができるため、わくわくしながら、競技者10の演技を参照することができる。
図11は、演技終了後の表示画面の一例を示す図である。図11に示す例では、表示画面12には、映像領域12aと、演技リスト12bと、Dスコア領域12cと、Eスコア領域12dと、得点領域12eと、順位予測領域12fとを含む。
映像領域12aは、競技者10の映像データを表示する領域である。たとえば、情報処理装置100は、カメラ60が撮影した競技者10の映像データを、映像領域12aに表示する。
演技リスト12bは、競技者10が実際に行った一連の技(演技)の情報を表示するものである。演技リスト12bは、技名と、技グループと、枝番と、難度とを対応付ける。演技リスト12bは、1行目の技(技名)から順に、下の行に向かって各技が実行されたことを示す。
Dスコア領域12cは、競技者10が実際に行った各技に基づくDスコアを表示する領域である。Eスコア領域12dは、競技者10が実際に行った各技に基づくEスコアを表示する領域である。得点領域10eは、競技者10が実際に行った技に基づくスコアを表示する領域である。
順位予測領域12fは、複数の競技者に関する順位(たとえば、競技者10の演技終了時の暫定的な順位)の情報を表示する領域である。たとえば、順位予測領域12fは、順位と、競技者の名前と、得点とを対応付ける。
たとえば、図11に示す演技開始後の表示画面12を、ユーザ(TV中継の実況アナウンサーあるいは視聴者)が参照することで、正式な発表を待つことなく、ある程度の結果を事前に把握することができる。
続いて、本実施例1に係る情報処理装置100の構成について説明する。図12は、本実施例1に係る情報処理装置の構成を示す機能ブロック図である。図12に示すように、この情報処理装置は、インタフェース部110と、入力部120と、表示部130と、記憶部140と、制御部150とを有する。
インタフェース部110は、カメラ60、技認識装置70と接続し、カメラ60、技認識装置70からデータを取得する装置である。インタフェース部110は、取得したデータを、制御部150に出力する。たとえば、インタフェース部110は、カメラ60から映像データを取得する。インタフェース部110は、技認識装置70から、認識結果データを取得する。
入力部120は、情報処理装置100に各種の情報を入力するための入力装置である。入力部120は、キーボード、マウス、タッチパネル等に対応する。
表示部130は、制御部150から出力される表示画面の情報を表示する表示装置である。表示部130は、液晶ディスプレイ、タッチパネル等に対応する。たとえば、表示部130は、図9〜図10に示した表示画面を表示する。
記憶部140は、技認識DB141と、映像DB142と、演技履歴テーブル143と、スコアテーブル144と、難度テーブル145とを有する。記憶部140は、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ(Flash Memory)などの半導体メモリ素子や、HDD(Hard Disk Drive)などの記憶装置に対応する。
技認識DB141は、技認識装置70の認識結果データを保持するテーブルである。技認識DB141のデータ構造は、図8で説明した技認識DB75のデータ構造に対応する。たとえば、技認識DB141は、フレーム番号と、関節位置データと、開始姿勢フラグと、終末姿勢フラグと、技グループと、技番号と、技名とを対応付ける。
映像DB142は、カメラ60から取得する映像データを格納するデータベースである。図13は、本実施例1に係る映像DBのデータ構造の一例を示す図である。図13に示すように、この映像DB142は、フレーム番号と、映像フレームとを対応付ける。なお、図示を省略するが、映像DB142は、各競技者が過去に行った演技の映像データを、競技者IDと対応付けて、保持してもよい。
図13において、フレーム番号は、各映像フレームを、一意に識別する番号である。なお、映像フレームのフレーム番号は、センシングフレームのフレーム番号と同期しているものとする。映像フレームは、カメラ60に撮影された映像フレームである。
演技履歴テーブル143は、競技者10や他の競技者が過去に行った演技の履歴に関する情報を保持するテーブルである。図14は、本実施例1に係る演技履歴テーブルのデータ構造の一例を示す図である。図14に示すように、この演技履歴テーブル143は、競技者ID、日付、大会ID、演技構成情報、得点、演技時間を対応付ける。
競技者IDは、競技者を一意に識別する情報である。日付は、競技者が演技を行った日付を示すものである。大会IDは、大会を一意に識別する情報である。演技構成情報は、該当する大会において、競技者が行った演技の構成を示す情報である。得点は、該当する大会における競技者の得点を示す。たとえば、得点には、Dスコアと、Eスコアと、得点(DスコアとEスコアとの合計得点)とが含まれる。演技時間は、競技者が行った演技の時間を示す。
また、図示を省略するが、演技履歴テーブル143は、後述するEスコアを算出する処理を支援するために、競技者ID毎に、各グループおよび技番号に対応するEスコアの履歴を更に保持しておくものとする。
図15は、演技構成情報の一例を示す図である。図15では一例として、図14の1列目に含まれる、大会ID「A101」の大会において競技者ID「U1001」が行った演技構成情報を示す。図15に示すように、演技構成情報は、順番と、技名と、技グループと、技番号と、難度とを対応付ける。順番は、競技者が該当する技名の技を行った順番を示すものである。技名、技グループ、技番号、難度に関する説明は、上記の説明と同様である。
スコアテーブル144は、各競技者の得点に関する情報を保持するテーブルである。図16は、本実施例1に係るスコアテーブルのデータ構造の一例を示す図である。図16に示すように、このスコアテーブル144は、競技者IDと、予測得点と、得点とを対応付ける。図16において、競技者IDは、競技者を一意に識別する情報である。予測得点は、競技者の予測される得点である。予測得点には、Dスコアと、Eスコアと、得点(DスコアとEスコアとの合計得点)とが含まれる。得点は、競技者が演技を行った後の実際の得点である。得点には、Dスコアと、Eスコアと、得点(DスコアとEスコアとの合計得点)とが含まれる。
難度テーブル145は、Dスコアを算出する場合に用いられる難度と得点とを対応付けるテーブルである。図17は、本実施例1に係る難度テーブルのデータ構造の一例を示す図である。図17に示すように、この難度テーブル145は、技グループと、技番号と、難度と、得点とを対応付ける。
制御部150は、登録部151と、前処理部152と、画面生成部153とを有する。制御部150は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)などによって実現できる。また、制御部150は、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)などのハードワイヤードロジックによっても実現できる。
登録部151は、競技者10の演技が開始された場合に、技認識装置70から、認識結果データを取得し、取得した認識結果データを、技認識DB141に登録する処理部である。また、登録部151は、競技者10の競技が開始された場合に、カメラ60から映像データを取得し、取得した映像データを、映像DB142に登録する。
前処理部152は、演技履歴テーブル143から、競技者10の実施予定の複数の技を含む「予定演技情報」を取得する。また、前処理部152は、予定演技情報から、複数の技が成功した場合の予測得点を算出し、予測演技の予測得点を表示する画面情報を生成する。たとえば、予測演技の予測得点を表示する画面情報は、図9で説明した表示画面10Aの情報に対応する。前処理部152が算出する予測得点は、第一の予測スコアに対応する。
ここで、前処理部152が、演技履歴テーブル143から、「予定演技情報」を取得する処理の一例について説明する。たとえば、前処理部152は、入力部120から、対象となる競技者の競技者IDを受け付けると、受け付けた競技者IDに対応する複数の演技構成情報を、演技履歴テーブル143から取得する。前処理部152は、複数の演技構成情報に含まれる順番および技(技名)の組をそれぞれ比較し、順番毎に、最も頻度が高い技を特定していくことで、「演技遷移フロー情報」を生成する。また、前処理部152は、ある技からの遷移先が、複数存在する場合には、各遷移先の技に移行する確率を合わせて算出する。
図18は、演技遷移フロー情報の一例を示す図である。図18に示すように、この演技遷移フロー情報20は、開始を示すノードと、技を示す複数のノードとが接続されている。たとえば、技を示すノードには、技グループと、技番号との組が付与される。また、ある技から次の技に遷移する際に、遷移先の候補が複数存在する場合には、遷移先に遷移する確率が付与される。
図18に示すように、開始のノードからノード「G3−53」に遷移することが示される。ノード「G3−53」の遷移先は、ノード「G3−70」およびノード「G2−52」である。ノード「G3−53」からノード「G3−70」に遷移する確率は「60%」である。一方、ノード「G3−53」からノード「G2−52」に遷移する確率は「40%」である。また、ノード「G3−70」の遷移先は、ノード「G2−52」である。
ノード「G2−52」の遷移先は、ノード「G3−94」およびノード「G1−87」である。ノード「G2−52」からノード「G1−87」に遷移する確率は「60%」である。一方、ノード「G2−52」からノード「G3−94」に遷移する確率は「40%」である。また、ノード「G3−94」の遷移先は、ノード「G1−87」である。
ノード「G1−87」に続く、ノードの遷移先は、順に、ノード「G1−52」、「G1−51」、「G3−16」、「G1−81」、「G1−26」、「G4−41」となる。
ここでは一例として、前処理部152が、演技遷移フロー情報を生成する場合ついて説明したがこれに限定されるものではない。競技者ID毎に、演技遷移フロー情報が予め生成されており、前処理部152は、かかる演技遷移フロー情報を取得して利用してもよい。
前処理部152は、演技遷移フロー情報20を基にして、最も確からしい、競技者が行う技の順番を特定する。前処理部152は、演技遷移フロー情報20の開始ノードから技のノードを辿っていき、技の遷移先が複数存在する場合には、確率の高い方のノードに遷移することで、技の順番を特定する。
たとえば、図18に示す演技遷移フロー情報20では、競技者が行う技の順番は、開始ノードから、ノード「G3−53」、「G3−70」、「G2−52」、「G1−87」、「G1−52」、「G1−51」、「G3−16」、「G1−81」、「G1−26」、「G4−41」となる。上述した処理により、前処理部152が特定した技の種別および技の順番が、「予定演技情報」となる。前処理部152は、予定演技情報と、演技遷移フロー情報とを、画面生成部153に出力する。
続いて、前処理部152は、予定演技情報のDスコアを算出する処理について説明する。前処理部152は、予定演技情報に含まれる技と、難度テーブル145とを比較して、技毎の得点を特定する。前処理部152は、特定した技毎の得点を合計することで、予定演技情報に対応するDスコアを算出する。たとえば、予定演技情報に対応するDスコアは、図9のDスコア領域10cに表示されるスコアである。
前処理部152は、予定演技情報のEスコアを算出する処理について説明する。前処理部152は、予定演技情報に含まれる技と、競技者IDと、演技履歴テーブル143とを比較して、技毎のEスコアを特定する。前処理部152は、特定した技毎のEスコアを合計することで、予定演技情報に対応するEスコアを算出する。たとえば、予定演技情報に対応するEスコアは、図9のDスコア領域10dに表示されるスコアである。
前処理部152は、予定演技情報の得点を算出する処理について説明する。前処理部152は、予定演技情報のDスコアとEスコアとを合計することで、予定演技情報の得点を算出する。たとえば、予定演技情報に対応する得点は、図9の得点領域10eに表示されるスコアである。
前処理部152は、算出したDスコア、Eスコア、得点と、競技者IDとを対応付けて、スコアテーブル144に格納する。なお、前処理部152が算出するDスコア、Eスコア、得点は、スコアテーブル144の予測得点の項目に対応する情報となる。
画面生成部153は、競技者10の演技開始前において、図9に示した表示画面10Aの情報を生成し、表示部130に出力して表示させる。画面生成部153は、競技者10の演技中において、図10に示した表示画面11の情報を生成し、表示部130に出力して表示させる。画面生成部153は、競技者10の演技終了後において、図11に示した表示画面12の情報を生成し、表示部130に出力して表示させる。たとえば、画面生成部153は、実施済みの技のスコアと、予測された未実施の技が成功した場合の第二の予測スコアとに基づき、実施中の実演技全体の第三の予測スコアを予測する。たとえば、図18において、技の順番が、「G3−53」、「G3−70」、「G2−52」、「G1−87」、「G1−52」、「G1−51」、「G3−16」、「G1−81」、「G1−26」、「G4−41」とし、「G2−52」まで実施済みとする。この場合には、第二の予測スコアは、「G1−87」、「G1−52」、「G1−51」、「G3−16」、「G1−81」、「G1−26」、「G4−41」のスコアとなる。第三の予測スコアは、実施済みの「G3−53」、「G3−70」、「G2−52」のスコアと、第二の予測スコアとを合計したスコアとなる。詳細については後述する。
画面生成部153が、競技者10の「演技開始前」において、表示画面10Aの情報を生成する処理の一例について説明する。表示画面10Aには、映像領域10a、予測演技リスト10b、Dスコア領域10c、Eスコア領域10d、得点領域10e、順位予測領域10fが含まれる。
画面生成部153は、入力部120から対象となる競技者の競技者IDを受け付けると、受け付けた競技者IDに対応する過去の映像データを、映像DB142から取得し、映像領域10aに表示させる情報とする。
画面生成部153は、予定演技情報を基にして、技名、技グループ、技番、難度の組の情報を予測される技の順番に並べることで、予測演技リスト10bを生成する。
画面生成部153は、入力部120から受け付けた競技者IDに対応する予測得点をスコアテーブル144から取得する。画面生成部153は、予測得点に含まれるDスコア、Eスコア、得点を、Dスコア領域10c、Eスコア領域10d、得点領域10eに表示させる情報とする。
画面生成部153は、対象となる競技者の競技者IDと、今回の大会に参加する他の競技者の競技者IDとを取得する。以下の説明では適宜、対象となる競技者を、第1競技者と表記し、比較対象となる他の競技者を第2競技者と表記する。画面生成部153は、第2競技者の得点を、第2競技者の競技者IDと、スコアテーブル144との比較により取得する。画面生成部153は、第2競技者の演技が終わり、スコアテーブル144の得点に情報が格納されている場合には、係る得点の情報を取得する。一方、画面生成部153は、第2競技者の演技が演技前であり、スコアテーブル144の得点に情報が格納されていない場合には、予測得点の情報を取得する。
画面生成部153は、第1競技者の得点(演技前の得点)と、複数の第2競技者の得点(演技前または演技後の得点)とを比較して、競技者の順位を判定する。画面生成部153は、順位と、競技者の名前と、得点とを対応付けることで、順位予測領域10fの情報を生成する。たとえば、画面生成部153は、競技者IDと競技者名とを対応付けたテーブル(図示略)を参照して、競技者IDに対応する競技者名を特定する。
画面生成部153は、映像領域10a、予測演技リスト10b、Dスコア領域10c、Eスコア領域10d、得点領域10e、順位予測領域10fに対応する情報を生成して配置することで、表示画面10Aの情報を生成する。
続いて、画面生成部153が、競技者10の「演技中」において、表示画面11の情報を生成する処理の一例について説明する。図10で説明したように、表示画面11には、演技リスト11a、演技遷移情報11b、Dスコア領域11c、Eスコア領域11d、得点領域11e、順位予測領域11fが含まれる。画面生成部153は、競技者10の演技の進行に伴って、演技リスト11a、演技遷移情報11b、Dスコア領域11c、Eスコア領域11d、得点領域11e、順位予測領域11fに表示する情報を更新していく。
画面生成部153が、演技リスト11aの情報を更新する処理の一例について説明する。まず、画面生成部153は、予定演技情報に示される各技の順番に従って、演技リスト11aの初期情報を生成する。
競技者10の演技が開始されると、技認識装置70による認識結果データの出力が開始され、認識結果データが、技認識DB141に格納される。画面生成部153は、技認識DB141を参照して、競技者10が実際に行った技を順番に取得し、実際に行った技と、演技遷移フロー情報とを比較する。
画面生成部153は、競技者10による技の遷移先が、確率の高い方に遷移した場合には、演技リスト11aを初期情報のままにする。また、画面生成部153は、演技リスト11aにおいて、現在競技者10が行っている技の技名に対応する箇所を、強調表示してもよい。たとえば、競技者10が、現在、技名「アザリアン」の技を行っている場合には、演技リスト11aに含まれる「アザリアン」の項目を強調表示する。
一方、画面生成部153は、競技者10による技の遷移先が、確率の低い方に遷移した場合には、演技遷移フロー情報を基にして、演技リスト11bの情報を更新する。たとえば、画面生成部153は、ノード「G3−53」に対応する技の次に、競技者10が行った技が、ノード「G2−52」の技であった場合には、確率の低い方に遷移しており、演技リスト11bの情報を更新する。画面生成部153は、ノード「G2−52」に対応する技の次に、競技者10が行った技が、ノード「G3−94」の技であった場合には、確率の低い方に遷移しており、演技リスト11bの情報を更新する。
更新前の演技リスト11bの技の順番は、「G3−53」、「G3−70」、「G2−52」、「G1−87」、「G1−52」、「G1−51」、「G3−16」、「G1−81」、「G1−26」、「G4−41」とする。これに対して、更新後の演技リスト11の技の順番は、「G3−53」、「G2−52」、「G3−94」、「G1−87」、「G1−52」、「G1−51」、「G3−16」、「G1−81」、「G1−26」、「G4−41」となる。
たとえば、画面生成部153は、演技リスト11aの情報を、図19に示すように更新する。図19は、本実施例1に係る画面生成部の処理の一例を説明するための図(1)である。図19において、演技リスト11a−1は、更新前の演技リストである。演技リスト11a−2は、更新後の演技リストである。図19に示すように、演技リスト11a−1の2番目の技「後ろ振り上がり水平支持(2秒)<G3−70>」が、演技リスト11a−2から削除されている。また、演技リスト11a−2の3番目には、演技リスト11a−1にはない技「後ろ振り上がり十字倒立(2秒)<G3−94>」が追加されている。
画面生成部153が、演技遷移情報11bを更新する処理の一例について説明する。まず、画面生成部153は、演技遷移フロー情報20に対応させて、開始ノードおよび技のノードを配置することで、演技遷移情報11bを生成する。
競技者10の演技が開始されると、画面生成部153は、技認識DB141を参照して、競技者10が実際に行った技を順番に取得し、取得した技に対応する技のノードを順番に強調表示する。
画面生成部153が、Dスコア領域11cを更新する処理の一例について説明する。まず、画面生成部153は、競技者10の競技者IDと、スコアテーブル144とを比較して、予測得点の項目から、競技者10の予測されたDスコアを取得する。画面生成部153は、取得したDスコアを、Dスコア領域11cに設定する。
競技者10の演技が開始されると、画面生成部153は、技認識DB141を参照して、競技者10が実際に行った技を順番に取得し、実際に行った技と、演技遷移フロー情報と比較する。
画面生成部153は、競技者10による技の遷移先が、確率の高い方に遷移した場合には、Dスコア領域11cに表示させるDスコアを、そのままにする。
一方、画面生成部153は、競技者10による技の遷移先が、確率の低い方に遷移した場合には、演技遷移フロー情報を基にして、競技者10が行う技の内容を更新する。一例として、図18に示した演技遷移フロー情報20を用いて説明をおこなう。たとえば、画面生成部153は、ノード「G3−53」に対応する技の次に、競技者10が行った技が、ノード「G3−52」の技であった場合には、確率の低い方に遷移しており、競技者10が行う技の内容を更新する。
競技者10が行う更新前の技の内容は、「G3−53」、「G3−70」、「G2−52」、「G1−87」、「G1−52」、「G1−51」、「G3−16」、「G1−81」、「G1−26」、「G4−41」となる。これに対して、競技者10が行う更新後の技の内容は、「G3−53」、「G2−52」、「G3−94」、「G1−87」、「G1−52」、「G1−51」、「G3−16」、「G1−81」、「G1−26」、「G4−41」となる。
画面生成部153は、更新後の技と、難度テーブル145とを比較して、技毎の得点を特定する。画面生成部153は、特定した技毎の得点を合計することで、更新後の技に対応するDスコアを新たに算出する。画面生成部153は、算出したDスコアを、Dスコア領域11cに表示させる。また、画面生成部153は、新たに算出したDスコアを表示する場合に、Dスコア領域11cのDスコアを強調表示させてもよい。また、画面生成部153は、算出したDスコアにより、スコアテーブル144のDスコア(予測得点のDスコア)を更新する。
画面生成部153が、Eスコア領域11dを更新する処理の一例について説明する。まず、画面生成部153は、競技者10の競技者IDと、スコアテーブル144とを比較して、予測得点の項目から、競技者10の予測されたEスコアを取得する。画面生成部153は、取得したEスコアを、Eスコア領域11dに設定する。
競技者10の演技が開始されると、画面生成部153は、技認識DB141を参照して、競技者10が実際に行った技を順番に取得し、実際に行った技と、演技遷移フロー情報と比較する。
画面生成部153は、競技者10による技の遷移先が、確率の高い方に遷移した場合には、Eスコア領域11dに表示させるEスコアを、そのままにする。
一方、画面生成部153は、競技者10による技の遷移先が、確率の低い方に遷移した場合には、演技遷移フロー情報を基にして、競技者10が行う技の内容を更新する。一例として、図18に示した演技遷移フロー情報20を用いて説明をおこなう。たとえば、画面生成部153は、ノード「G3−53」に対応する技の次に、競技者10が行った技が、ノード「G3−70」の技であった場合には、確率の低い方に遷移しており、競技者10が行う技の内容を更新する。更新前の技の内容および更新後の技の内容は、Dスコア領域11cを更新する処理で行ったものと同様である。
画面生成部153は、更新後の技と、演技履歴テーブル143とを比較して、技毎のEスコアを特定する。画面生成部153は、特定した技毎のEスコアを合計することで、更新後の技に対応するEスコアを新たに算出する。画面生成部153は、算出したEスコアを、Eスコア領域11dに設定する。また、画面生成部153は、新たに算出したEスコアを表示する場合に、Eスコア領域11dのEスコアを強調表示させてもよい。また、画面生成部153は、算出したDスコアにより、スコアテーブル144のEスコア(予測得点のEスコア)を更新する。
画面生成部153が、得点領域11eを更新する処理の一例について説明する。まず、画面生成部153は、競技者10の競技者IDと、スコアテーブル144とを比較して、予測得点の項目から、競技者10の予測された得点を取得する。画面生成部153は、取得した得点を、得点領域11eに設定する。
競技者10の演技が開始されると、画面生成部153は、技認識DB141を参照して、競技者10が実際に行った技を順番に取得し、実際に行った技と、演技遷移フロー情報と比較する。
画面生成部153は、競技者10による技の遷移先が、確率の高い方に遷移した場合には、得点領域11eに表示させる得点を、そのままにする。
一方、画面生成部153は、競技者10による技の遷移先が、確率の低い方に遷移した場合には、演技遷移フロー情報を基にして、競技者10が行う技の内容を更新する。一例として、図18に示した演技遷移フロー情報20を用いて説明を行う。たとえば、画面生成部153は、ノード「G3−53」に対応する技の次に、競技者10が行った技が、ノード「G3−70」の技であった場合には、確率の低い方に遷移しており、競技者10が行う技の内容を更新する。更新前の技の内容および更新後の技の内容は、Dスコア領域11cを更新する処理で行ったものと同様である。
画面生成部153は、Dスコア領域11cを更新する処理と同様にして、更新後の技に対応するDスコアを算出する。画面生成部153は、Eスコア領域11dを更新する処理と同様にして、更新後の技に対応するEスコアを算出する。画面生成部153は、更新後の技に対応するDスコアとEスコアとを合計することで、更新後の得点を算出する。
画面生成部153は、算出した更新後の得点を、得点領域11eに設定する。画面生成部153は、新たに算出した得点を表示する場合に、得点領域11eの得点を強調表示させてもよい。また、画面生成部153は、算出した得点により、スコアテーブル144の得点(予測得点の得点)を更新する。
画面生成部153が、順位予測領域11fの情報を更新する処理の一例について説明する。画面生成部153は、スコアテーブル144を参照して、第1競技者の得点と、複数の第2競技者の得点とを取得する。
第1競技者の得点は、スコアテーブル144において、演技を行っている競技者の競技者IDに対応する、予測得点の項目の得点である。第2競技者の得点は、該当する第2競技者の演技が終了している場合には、スコアテーブル144において、第2競技者の競技者IDに対応する、得点項目の得点である。または、第2競技者の得点は、該当する第2競技者の演技が終了していない場合には、スコアテーブル144において、第2競技者の競技者IDに対応する、予測得点の項目の得点である。
画面生成部153は、第1競技者の得点(演技中の予測の得点)と、複数の第2競技者の得点(演技前または演技後の得点)とを比較して、競技者の順位を判定する。画面生成部153は、順位と、競技者の名前と、得点とを対応付けることで、順位予測領域11fの情報を生成する。たとえば、画面生成部153は、競技者IDと競技者名とを対応付けたテーブル(図示略)を参照して、競技者IDに対応する競技者名を特定する。
画面生成部153は、第1競技者の得点が更新される度に、上記処理を繰り返し実行することで、順位予測領域11fの情報を更新する。画面生成部153は、競技者の順位が更新前の順位と比較して上がった場合には、該当する競技者名の隣に上矢印を表示させる。画面生成部153は、競技者の順位が更新前の順位と比較して下がった場合には、該当する競技者名の隣に下矢印を表示させる。
続いて、画面生成部153が、競技者10の「演技終了後」において、表示画面12の情報を生成し、表示部130に出力して表示させる。表示画面12には、映像領域12aと、演技リスト12b、Dスコア領域12c、Eスコア領域12d、得点領域12e、順位予測領域12fが含まれる。
画面生成部153は、技認識DB141を参照して、競技者10が実際に行った技を順番に取得し、実際に行った技と、演技遷移フロー情報とを比較し、演技遷移フロー情報の最後のノードに到達した場合に、競技者10の演技が終了したと判定する。たとえば、図18に示した演技遷移フロー情報20を用いて説明すると、競技者10の技が、ノード「G4−41」に対応する技に到達した場合に、競技者10の演技が終了したと判定する。
画面生成部153が、映像領域12aに情報を表示する処理について説明する。画面生成部153は、演技を行った競技者の映像データを、映像DB142から取得し、取得した映像データを、映像領域12aに表示させる。
画面生成部153が、演技リスト12bに情報を表示する処理について説明する。画面生成部153は、競技者10が演技を終了した時点において、表示画面11の演技リスト11aに表示されている情報を、演技リスト12bの情報として利用する。
画面生成部153が、Dスコア領域12c、Eスコア領域12d、得点領域12eに情報を表示する処理について説明する。画面生成部153は、競技者10が演技を終了した時点において、表示画面11のDスコア領域11c、Eスコア領域11d、得点領域11eに設定されていたDスコア、Eスコア、得点を、Dスコア領域12c、Eスコア領域12d、得点領域12eに設定する。
画面生成部153は、Dスコア領域12c、Eスコア領域12d、得点領域12eに設定したDスコア、Eスコア、得点の情報を、競技者IDと対応付けて、スコアテーブル144の得点の項目に登録する。
画面生成部153が、順位予測領域12fに情報を表示する処理について説明する。画面生成部153は、スコアテーブル144を参照して、第1競技者の得点と、複数の第2競技者の得点とを取得する。
第1競技者の得点は、スコアテーブル144において、演技を終了した競技者の競技者IDに対応する、得点項目の得点である。第2競技者の得点は、該当する第2競技者の演技が終了している場合には、スコアテーブル144において、第2競技者の競技者IDに対応する、得点項目の得点である。または、第2競技者の得点は、該当する第2競技者の演技が終了していない場合には、スコアテーブル144において、第2競技者の競技者IDに対応する、予測得点の項目の得点である。
画面生成部153は、第1競技者の得点(演技中の予測の得点)と、複数の第2競技者の得点(演技前または演技後の得点)とを比較して、競技者の順位を判定する。画面生成部153は、順位と、競技者の名前と、得点とを対応付けることで、順位予測領域12fの情報を生成する。たとえば、画面生成部153は、競技者IDと競技者名とを対応付けたテーブル(図示略)を参照して、競技者IDに対応する競技者名を特定する。また、画面生成部153は、直近の順位と比較して、競技者の順位に変動がある場合には、矢印の方向を表示して、順位の変動を可視化してもよい。すなわち、画面生成部153は、競技者の順位が更新前の順位と比較して上がった場合には、該当する競技者名の隣に上矢印を表示させる。画面生成部153は、競技者の順位が更新前の順位と比較して下がった場合には、該当する競技者名の隣に下矢印を表示させる。
続いて、競技者10の演技開始から演技終了までの間における、表示画面11の演技遷移情報11b、Dスコア領域11c、Eスコア領域11d、得点領域11eの情報の変化の一例について、図20を用いて説明する。
図20は、本実施例1に係る画面生成部の処理の一例を説明するための図(2)である。図20では一例として、競技者10が演技を開始し、「G3−53」の技の次に、予定とは異なる技(「G2−52」の技)を実行し、その後は、予定通りの演技を行った場合について説明する。
ステップS10について説明する。ステップS10において、演技前の表示画面には、演技遷移情報11b−1と、Dスコア領域11c−1と、Eスコア領域11d−1と、得点領域11e−1とが含まれる。
画面生成部153は、演技遷移情報11b−1に、演技遷移フロー情報20を表示させる。画面生成部153は、予定演技情報のDスコア、Eスコア、得点を算出し、Dスコア領域11c−1と、Eスコア領域11d−1と、得点領域11e−1にそれぞれ表示させる。Dスコア領域11c−1と、Eスコア領域11d−1と、得点領域11e−1に表示されるDスコア、Eスコア、得点は、競技者10が予定通り演技(予定演技情報の演技)を行った場合の、Dスコア、Eスコア、得点となる。
ステップS11について説明する。ステップS11において、演技中の表示画面には、演技遷移情報11b−2と、Dスコア領域11c−2と、Eスコア領域11d−2と、得点領域11e−2とが含まれる。
画面生成部153は、技認識DB141を参照し、「G3−53」の技から「G2−52」の技に遷移した場合には、演技遷移情報11b−2の「G3−53」の技から「G2−52」の技へ遷移する線を強調表示する。画面生成部153は、Dスコア領域11c−1と、Eスコア領域11d−1と、得点領域11e−1の情報を更新する。なお、「G3−70」の技の難度と、「G2−52」の技の難度は同じ「D」難度であるため、Dスコア領域11c−2のDスコアと、Dスコア領域11c−1のDスコアとは同一となる。
「G3−53」の技から「G2−52」の技に遷移し、本来実行予定であった「G3−70」の技が行われないことで、Eスコアは「8.200」に更新される。画面生成部153は、Eスコア領域11d−2にEスコア「8.200」を表示する。また、Eスコアが更新に応じて、画面生成部153は、得点領域11e−2に得点「13.900」を表示させる。
ステップS12について説明する。ステップS12において、演技中から演技終了までの表示画面には、演技遷移情報11b−3、Dスコア領域11c−3と、Eスコア領域11d−3と、得点領域11e−3とが含まれる。「G2−52」の技以降において、競技者10が予定通りの演技を行った場合には、画面生成部153は、Dスコア領域11c−3、Eスコア領域11d−3、得点領域11e−3には、Dスコア領域11c−2、Eスコア領域11d−2、得点領域11e−2と同様の情報が表示される。
次に、本実施例1に係る情報処理装置100の処理手順の一例について説明する。図21は、本実施例1に係る情報処理装置の処理手順を示すフローチャートである。図21に示すように、情報処理装置100の前処理部152は、演技履歴テーブル143から、予定演技情報を取得する(ステップS101)。前処理部152は、予定演技情報に含まれる各技が成功した場合の予測スコアを算出する(ステップS102)。
情報処理装置100の画面生成部153は、予測スコアを表示する表示画面を生成し、表示部130に表示させる(ステップS103)。たとえば、ステップS103で表示される表示画面は、図9で説明した表示画面10Aに対応する。画面生成部153は、演技中処理を実行する(ステップS104)。
続いて、図21のステップS104に示した演技中処理の一例について説明する。図22は、演技中処理の処理手順を示すフローチャートである。図22に示すように、情報処理装置100の画面生成部153は、競技者10の演技が開始された場合に、実施中の演技の認識結果データを取得する(ステップS201)。
画面生成部153は、認識結果データと、演技遷移フロー情報とを比較する(ステップS202)。画面生成部153は、実施中の技が予定の技と異なる場合には(ステップS203,Yes)、予測スコアを更新して(ステップS204)、ステップS205に移行する。
一方、画面生成部153は、実施中の技が予定の技と異ならない場合には(ステップS203,No)、ステップS205に移行する。画面生成部153は、表示画面を更新して表示する(ステップS205)。たとえば、ステップS205で表示される表示画面は、図10で説明した表示画面11に対応する。
画面生成部153は、演技が終了した場合には(ステップS206,Yes)、演技終了時の表示画面を表示する(ステップS207)。たとえば、ステップS207で表示される表示画面は、図11で説明した表示画面12に対応する。
一方、画面生成部153は、演技が終了していない場合には(ステップS206,No)、次の認識結果データを取得し(ステップS208)、ステップS202に移行する。
次に、本実施例1に係る情報処理装置100の効果について説明する。情報処理装置100は、演技開始前において、予定演技情報に対する予測スコアを算出し、算出した予測スコアを表示する。演技が開始されると、情報処理装置100は、演技の進行に伴って、予定の技が変更されたか否かを判定し、予定の技が変更された場合には、これから実施される可能性の高い未実施の技を予測することで、一連の予定技を更新し、更新した一連の予測技に基づく予測スコアを更新し、更新した予測スコアを表示画面に表示させる。これにより、採点競技における予定演技の予測スコアと、演技の進行に伴う予測スコアとを提供することができる。
情報処理装置100は、競技者10の演技開始前において、図9に示した表示画面10Aを表示させる。たとえば、アナウンサーが、表示画面10Aの順位予測領域10fを参照することで、演技者の順位変動が生じる得点ラインを把握することができる。たとえば、これから演技を行う競技者を「富士太郎」とすると、アナウンサーは、表示画面を見ながら、「予定演技のままでは1位になれないようで、きっと演技を変えてくるでしょう」等のコメントを容易に発言することができる。
情報処理装置100は、競技者10の演技中において、図10に示した表示画面11を表示させる。たとえば、アナウンサーが、表示画面11の演技遷移情報11bを参照することで、競技者10が行う技が「G3−70」の技から、「G2−52」の技に変更されたことをリアルタイムに把握することができる。また、技が「G3−70」の技から、「G2−52」の技に変更されることにより、Eスコア領域11dのEスコアが上がった場合には、競技者10は、得意な技にシフトしたことを確認することができる。これにより、アナウンサーは、表示画面を見ながら、「予定演技の技(G3−70)を、本番で完成度の高い技(G2−52)に変えてきた!過去の演技ではこちらの演技構成の方がEスコアが1.0高くなっています。」等のコメントを容易に発言することができる。
一方、視聴者が、表示画面11の演技遷移情報11bを参照すると、逆転の可能性を感じながら、中継をわくわくしながら視聴することができる。たとえば、図10の表示画面11において、現在の技が「G3−53」である場合に、視聴者は、競技者10に関する過去の演技の知識がなくても、次は「G3−70」の技を演技者が行うことを事前に予測できるが、技を「G2−52」に変更して逆転を狙うのか等、競技者10の駆け引きを楽しむことができる。
情報処理装置100は、競技者10の演技終了時において、図11に示した表示画面12を表示させる。たとえば、アナウンサーが、表示画面12の順位予測領域12fの情報を参照することで、最終的なスコアが、審判員から発表される前に、予想スコアを把握することができる。たとえば、「富士太郎さんは暫定1位に浮上する可能性が高いですね」等のコメントを容易に発言することができる。
図23は、本実施例2に係るシステムの一例を示す図である。図23に示すように、このシステムは、3Dレーザセンサ50と、カメラ60と、情報処理装置200とを有する。情報処理装置200は、3Dレーザセンサ50と、カメラ60に接続される。本実施例2では一例として、競技者10は、3Dレーザセンサ50およびカメラ60の前方で体操演技を行う場合について説明するが、競技者10が他の採点競技を行う場合にも同様に適用することができる。
3Dレーザセンサ50は、競技者10に対して3Dセンシングを行うセンサである。3Dレーザセンサ50は、センシング結果となるセンシングデータを、情報処理装置200に出力する。
カメラ60は、競技者10の映像データを撮影する装置である。カメラ60は、映像データを、情報処理装置200に出力する。
情報処理装置200は、競技者10が過去に行った演技構成の履歴を基にして、競技者10の一連の予定演技から算出される予測スコアを表示する装置である。また、情報処理装置200は、競技者10の実際の演技の進行に伴って、競技者10の演技が変更になった場合には、後の予測演技を更新しつつ、演技更新に応じて、予測スコアを更新する。
また、情報処理装置200は、図1で説明した技認識装置70の機能を有し、3Dレーザセンサ50から出力されるセンシングデータを基にして、競技者10の技を認識する。ここで、情報処理装置200は、競技者10の技を認識する場合には、センシングデータから特定される開始姿勢に基づいて、技を予測して表示する。
たとえば、競技者10が現在行っている技の次の技が、複数存在するものとし、次の技が、「後ろ振り上がり十字倒立(2秒)」、「後ろ振り上がり倒立(2秒)」、「他の技」であったものとする。情報処理装置200は、センシングデータから特定される開始姿勢が「後ろ振り上がり」であると判定した時点で、終末姿勢の認識を待たなくても、次の行う技が、「後ろ振り上がり十字倒立(2秒)」、「後ろ振り上がり倒立(2秒)」のどちらかであることが判定できる。情報処理装置200は、推定した「後ろ振り上がり十字倒立(2秒)」、「後ろ振り上がり倒立(2秒)」を、表示画面に表示させる。
図24は、本実施例2に係る情報処理装置が表示する表示画面の一例を示す図である。たとえば、情報処理装置200は、次の行う技が、「後ろ振り上がり十字倒立(2秒)」、「後ろ振り上がり倒立(2秒)」のどちらかであると判定した場合には、表示画面13に示すように、「後ろ振り上がり十字倒立(2秒)」、「後ろ振り上がり倒立(2秒)」の技名を強調表示する。この表示画面13を参照することで、終末時の姿勢を見ることなく、競技者10が行おうとする技を前もって把握することができる。
次に、本実施例2に係る情報処理装置200の構成について説明する。図25は、本実施例2に係る情報処理装置の構成を示す機能ブロック図である。図25に示すように、情報処理装置200は、インタフェース部210と、入力部220と、表示部230と、記憶部240と、制御部250とを有する。
インタフェース部210は、3Dレーザセンサ50、カメラ60と接続し、3Dレーザセンサ50、カメラ60からデータを取得する装置である。インタフェース部210は、取得したデータを、制御部250に出力する。たとえば、インタフェース部210は、3Dレーザセンサ50から、センシングデータを取得する。インタフェース部210は、カメラ60から、映像データを取得する。
入力部220は、情報処理装置200に各種の情報を入力するための入力装置である。入力部220は、キーボード、マウス、タッチパネル等に対応する。
表示部230は、制御部250から出力される表示画面の情報を表示する表示装置である。表示部240は、液晶ディスプレイ、タッチパネル等に対応する。たとえば、表示部230は、図9〜図10に示した表示画面を表示する。
記憶部240は、センシングDB241、関節定義データ242、関節位置DB243、技判定テーブル244、技認識DB245を有する。また、記憶部240は、映像DB246、演技履歴テーブル247、スコアテーブル248、難度テーブル249を有する。記憶部240は、RAM、ROM、フラッシュメモリなどの半導体メモリ素子や、HDDなどの記憶装置に対応する。
センシングDB241は、3Dレーザセンサ50から取得するセンシングデータを格納するDBである。センシングDB241のデータ構造は、実施例1で説明したセンシングDB71のデータ構造と同様である。
関節定義データ242は、競技者10の各関節位置を定義するものである。関節定義データ242のデータ構造は、実施例1で説明した関節定義データ72のデータ構造と同様である。
関節位置DB243は、3Dレーザセンサ50のセンシングデータを基に生成される競技者10の各関節の位置データである。関節位置DB243のデータ構造は、実施例1で説明した関節位置DB73のデータ構造と同様である。
技判定テーブル244は、競技者10が行う技を判定する際に用いるテーブルである。技判定テーブル244のデータ構造は、実施例1で説明した技判定テーブル74のデータ構造と同様である。
技認識DB245は、技の認識結果データを格納するDBである。技認識DB245のデータ構造は、実施例1で説明した技認識DB75のデータ構造と同様である。
映像DB246は、カメラ60から取得する映像データを格納するDBである。映像DB246のデータ構造は、実施例1で説明した映像DB142のデータ構造と同様である。
演技履歴テーブル247は、競技者10や他の競技者が過去に行った演技の履歴に関する情報を保持するテーブルである。演技履歴テーブル247のデータ構造は、実施例1で説明した演技履歴テーブル143のデータ構造と同様である。
スコアテーブル248は、各競技者の得点に関する情報を保持するテーブルである。スコアテーブル248のデータ構造は、実施例1で説明したスコアテーブル144のデータ構造と同様である。
難度テーブル249は、Dスコアを算出する場合に用いられる難度と得点とを対応付けるテーブルである。難度テーブル249のデータ構造は、実施例1で説明した難度テーブル145のデータ構造と同様である。
制御部250は、登録部251と、認識部252と、前処理部253と、画面生成部254とを有する。制御部250は、CPUやMPUなどによって実現できる。また、制御部250は、ASICやFPGAなどのハードワイヤードロジックによっても実現できる。
登録部251は、3Dレーザセンサ50から、センシングデータを取得し、取得したセンシングデータを、センシングDB241に登録する。登録部251は、カメラ60から、映像データを取得し、取得した映像データを、映像DB246に格納する。
認識部252は、センシングDB241に格納されたセンシングデータを基にして、競技者10の技を認識する処理部である。認識部252は、センシングデータの各フレーム番号と、各認証結果とをそれぞれ対応付けた認識結果データを生成する。認識部252は、認識結果データを、技認識DB245に格納する。
認識部252は、センシングDB241のセンシングフレームと、関節定義データ242に定義された各関節の位置関係とを比較して、センシングフレームに含まれる各関節の種別および関節の3次元座標を特定する。認識部252は、センシングDB241のフレーム番号毎に上記処理を繰り返し実行し、各関節の3次元座標の情報を、関節位置DB243に格納する。
認識部252は、フレーム番号毎に、各関節の3次元座標の情報と、技判定テーブル244とを比較して、開始姿勢および終末姿勢を特定する。また、認識部252は、特定した開始姿勢および終末姿勢の組合せと、技判定テーブル244とを比較することで、フレーム番号に対応する技グループ、技番号、技名を特定する。
認識部252は、フレーム番号、関節位置データ、開始姿勢フラグ、終末姿勢フラグ、技グループ、技番号、技名を対応付けた情報を、技認識DB245に格納する。
ここで、本実施例2に係る認識部252は、センシングDB241に格納されるセンシングデータを基にして、技の認識を行う場合に、センシングデータから特定される開始姿勢に基づいて、技を予測してもよい。認識部252は、開始姿勢から予測した技の情報を、画面生成部254に出力する。
図26は、本実施例2に係る認識部の処理を説明するための図である。たとえば、認識部252は、演技遷移フロー情報を基にして、図26に示すような各技の遷移先を判定する。図26に示すように、技「後ろ振り上がり中水平支持(2秒)」の後に、「後ろ振り上がり水平支持(2秒)」または「アザリアン:伸腕伸身逆上がり十字懸垂(2秒)」が実行される。そして、「アザリアン」の後に、「後ろ振り上がり十字倒立(2秒)」または「後ろ振り上がり倒立(2秒)」が実行される。
図7で説明したように、技は、開始姿勢と終末姿勢との組合せから決定されるが、終末姿勢の判定を待たず、開始姿勢が判定できれば、次の競技者10が実行する技を予測することができる。たとえば、図26において、競技者10の技「後ろ振り上がり中水平支持(2秒)」が終了した場合には、次に競技者10が行う可能性がある技は、「後ろ振り上がり水平支持(2秒)」または「アザリアン」となる。
このため、認識部252は、競技者10の技「後ろ振り上がり中水平支持(2秒)」が終了し、開始姿勢「後ろ振り上がり」を行った場合には、次の技が「後ろ振り上がり水平支持(2秒)」であると予測する。一方、認識部252は、競技者10の技「後ろ振り上がり中水平支持(2秒)」が終了し、開始姿勢「伸腕伸身逆上がり」を行った場合には、次の技が「アザリアン」であると予測する。
認識部252は、競技者10の技「アザリアン」が終了し、開始姿勢「後ろ振り上がり」を行った場合には、他の技ではなく、「後ろ振り上がり十字倒立(2秒)」または「後ろ振り上がり倒立(2秒)」が実行されることを予測する。
なお、体操競技では、同じ技を2度行わないというルールが存在する。このため、認識部252は、予測した技が、一連の演技で既に行われている場合には、予測結果から除外する処理を行ってもよい。たとえば、認識部252は、競技者10の技「アザリアン」が終了し、競技者10が開始姿勢「後ろ振り上がり」を行った場合には、「後ろ振り上がり十字倒立(2秒)」または「後ろ振り上がり倒立(2秒)」が実行されると予測する。しかしながら、「後ろ振り上がり十字倒立(2秒)」が既に実行されている場合には、認識部252は、次に行われる技を「後ろ振り上がり倒立(2秒)」と予測する。
前処理部253は、演技履歴テーブル247を基にして、「予定演技情報」および「演技遷移フロー情報」を生成する。前処理部253は、予定演技情報および演技遷移フロー情報を、画面生成部254に出力する。
前処理部253は、予定演技情報から、複数の技が成功した場合の予測得点を算出し、予定演技の予測得点を表示する画面情報を生成する。たとえば、予測演技の予測得点を表示する画面情報は、図9で説明した表示画面10Aの情報に対応する。前処理部253に関する他の処理は、実施例1で説明した前処理部152の処理と同様であるため説明を省略する。
画面生成部254は、競技者10の演技開始前において、図9に示した表示画面10Aの情報を生成し、表示部230に出力して表示させる。画面生成部254は、競技者10の演技中において、図10に示した表示画面11の情報を生成し、表示部230に出力して表示させる。画面生成部254は、競技者10の演技終了後において、図11に示した表示画面の情報を生成し、表示部230に出力して表示させる。
画面生成部254が、表示画面10A、11、12の画面を生成して表示する処理は、実施例1で説明した画面生成部153の処理と同様であるため説明を省略する。なお、画面生成部254が、演技中に表示画面11を生成する場合には、認識部252が予測した技を用いて、演技リスト11a、演技遷移情報11b、Dスコア領域11c、Eスコア領域11d、得点領域11e、順位予測領域11fを更新してもよい。
ここで、画面生成部254は、認識部252が予測した技の情報を受け付けた場合には、予測された技の情報を表示部230に表示させる。たとえば、画面生成部254は、図24で説明した表示画面13を表示することで、次に実行される可能性が高い技の情報を、終末姿勢を待つことなく表示する。
また、画面生成部254は、演技中に表示画面を表示する場合に、残りの演技時間を予測し、表示してもよい。たとえば、画面生成部254は、演技履歴テーブル247を参照し、競技者10の過去の演技構成情報と、予定演技情報とを比較して、予定演技時間を特定する。画面生成部254は、図示しないタイマを用いて、競技者10が演技を開始してからの経過時間をカウントし、予定演技時間から、経過時間を減算することで、残りの演技時間を予測する。
図27は、本実施例2に係る演技中の表示画面の一例を示す図である。図27に示すように、表示画面14には、表示領域14aが含まれる。画面生成部254は、表示領域14aに、残りの演技時間を表示させる。
次に、本実施例2に係る情報処理装置200の処理手順の一例について説明する。図28は、本実施例2に係る情報処理装置の処理手順を示すフローチャートである。図28に示すように、情報処理装置200の前処理部253は、演技履歴テーブル247から、演技者10の予定演技情報を取得する(ステップS301)。前処理部253は、予定演技情報に含まれる各技が成功した場合の予測スコアを算出する(ステップS302)。
情報処理装置200の画面生成部254は、予測スコアを表示する表示画面を生成し、表示部130に表示させる(ステップS303)。情報処理装置100は、競技者10の演技が開始された場合に、センシングデータを取得し、実施中の技の認識結果データを生成する(ステップS304)。
情報処理装置200の認識部252は、予測処理を実行する(ステップS305)。画面生成部254は、実施中の技が予定の技と異なる場合には(ステップS306,Yes)、予測スコアを更新し(ステップS307)、ステップS308に移行する。
一方、画面生成部254は、実施中の技が予定の技と異ならない場合には(ステップS306,No)、ステップS308に移行する。画面生成部254は、表示画面を更新して表示する(ステップS308)。たとえば、ステップS308で表示される表示画面は、図10で説明した表示画面11に対応する。
画面生成部254は、残りの演技時間を表示画面に表示する(ステップS309)。画面生成部254は、演技が終了していない場合には(ステップS310,No)、次の認識結果データを生成し(ステップS311)、ステップS305に移行する。
一方、画面生成部254は、演技が終了した場合には(ステップS310,Yes)、演技終了時の表示画面を表示する(ステップS312)。
次に、図28のステップS305に示した予測処理の一例について説明する。図29は、予測処理の一例を示すフローチャートである。図29に示すように、情報処理装置200の認識部252は、予定演技の技の開始姿勢と終末姿勢とを取得する(ステップS401)。認識部252は、実施中の演技の開始姿勢を特定する(ステップS402)。
認識部252は、開始姿勢を基にして、次の行われる技を予測する(ステップS403)。認識部252は、予定演技の技の開始姿勢と、実施中の演技の開始姿勢とが一致するか否かを判定する(ステップS404)。
認識部252は、一致しない場合には(ステップS405,No)、実施中の演技の開始姿勢と終末姿勢に対応する技を技判定テーブル244から特定し(ステップS406)、予測処理を終了する。
一方、認識部252は、一致する場合には(ステップS405,Yes)、予定演技の技の終末姿勢と、実施中の演技の終末姿勢とが一致するか否かを判定する(ステップS407)。認識部252は、一致しない場合には(ステップS408,No)、ステップS406に移行する。認識部262は、一致する場合には(ステップS408,Yes)、予測処理を終了する。
次に、本実施例2に係る情報処理装置200の効果について説明する。情報処理装置200は、センシングデータを基にして、技の開始姿勢を判定し、終末姿勢の認識を行う前に、予測される技を表示画面に表示する処理を行う。これにより、表示画面を参照するアナウンサーや視聴者は、競技者10が行おうとする技を事前に知ることができる。
また、情報処理装置200は、競技者10の過去の演技構成から、競技者10の演技時間を予測し、競技者10が演技を開始した場合に、残りの演技時間を算出して表示させる。これにより、アナウンサーは、残りの演技時間を把握して、実況を行うことができる。たとえば、アナウンサーは、残りの演技時間を把握することで、スピード等を調整して、原稿を読むことができる。
次に、上記実施例に示した情報処理装置100,200と同様の機能を実現するコンピュータのハードウェア構成の一例について説明する。図30は、情報処理装置と同様の機能を実現するコンピュータのハードウェア構成の一例を示す図である。
図30に示すように、コンピュータ300は、各種演算処理を実行するCPU301と、ユーザからのデータの入力を受け付ける入力装置302と、ディスプレイ303とを有する。また、コンピュータ300は、記憶媒体からプログラム等を読み取る読み取り装置304と、有線または無線ネットワークを介して収録機器等との間でデータの授受を行うインタフェース装置305とを有する。また、コンピュータ300は、各種情報を一時記憶するRAM306と、ハードディスク装置307とを有する。そして、各装置301〜307は、バス308に接続される。
ハードディスク装置507は、登録プログラム307a、認識プログラム307b、前処理プログラム307c、画面生成プログラム307dを有する。CPU301は、各プログラム307a〜307dを読み出してRAM306に展開する。
登録プログラム307aは、登録プロセス306aとして機能する。認識プログラム307bは、認識プロセス306bとして機能する。前処理プログラム307cは、前処理プロセス306cとして機能する。画面生成プログラム307dは、画面生成プロセス306dとして機能する。
登録プロセス306aの処理は、登録部151,251の処理に対応する。認識プロセス306bの処理は、認識部252の処理に対応する。前処理プロセス306cの処理は、前処理部152,253の処理に対応する。画面生成プロセス306dの処理は、画面生成部153,254の処理に対応する。
なお、各プログラム307a〜307dについては、必ずしも最初からハードディスク装置507に記憶させておかなくても良い。例えば、コンピュータ300に挿入されるフレキシブルディスク(FD)、CD−ROM、DVD、光磁気ディスク、ICカードなどの「可搬用の物理媒体」に各プログラムを記憶させておく。そして、コンピュータ300が各プログラム307a〜307dを読み出して実行するようにしても良い。
50 3Dレーザセンサ
60 カメラ
70 技認識装置
100,200 情報処理装置
110,210 インタフェース部
120,220 入力部
130,230 表示部
140,240 記憶部
141,245 技認識DB
142,246 映像DB
143,247 演技履歴テーブル
144,248 スコアテーブル
145,249 難度テーブル
150,250 制御部
151,251 登録部
152,253 前処理部
153,254 画面生成部
241 センシングDB
242 関節定義データ
243 関節位置DB
244 技判定テーブル
252 認識部

Claims (12)

  1. コンピュータに、
    採点競技の競技者が実施予定の複数の技を含む予定演技情報を取得し、
    前記予定演技情報から、前記複数の技が成功した場合の第一の予測スコアを算出し、
    前記予定演技情報の第一の予測スコアを表示する画面情報を生成し、
    前記競技者による実演技が開始した場合に、前記実演技をリアルタイムでセンシングしたデータに基づき、前記実演技の中で、実施済みの技および前記実施済みの技のスコアを取得し、
    前記予定演技情報および前記データの少なくとも一方に基づき、前記実演技の中で、これから実施される可能性が高い未実施の技を予測し、
    前記実施済みの技のスコアと、前記予測された未実施の技が成功した場合の第二の予測スコアとに基づき、実施中の前記実演技全体の第三の予測スコアを予測し、
    前記第一の予測スコアと、前記第三の予測スコアとを表示する画面情報を生成する
    処理を実行させることを特徴とする画面生成プログラム。
  2. 前記第三の予測スコアを予測する処理によって予測された前記第三の予測スコアと、他の競技者のスコアとを基にして、前記競技者および前記他の競技者の順位を予測し、予測した順位の情報を表示する処理を更に実行することを特徴とする請求項1に記載の画面生成プログラム。
  3. 前記未実施の技を予測する処理は、前記データに基づく技の開始時の競技者の姿勢に基づき、前記未実施の技を予測することを特徴とする請求項1または2に記載の画面生成プログラム。
  4. 前記予定演技情報を基にして、前記競技者が演技を開始してから演技を終了するまでの演技時間を予測し、前記実演技が開始した場合に、前記演技時間を基にして、演技の残り時間を算出する処理を更に実行し、前記画面情報を生成する処理は、前記画面情報に、前記演技の残り時間の情報を含めることを特徴とする請求項1に記載の画面生成プログラム。
  5. コンピュータが、
    採点競技の競技者が実施予定の複数の技を含む予定演技情報を取得し、
    前記予定演技情報から、前記複数の技が成功した場合の第一の予測スコアを算出し、
    前記予定演技情報の第一の予測スコアを表示する画面情報を生成し、
    前記競技者による実演技が開始した場合に、前記実演技をリアルタイムでセンシングしたデータに基づき、前記実演技の中で、実施済みの技および前記実施済みの技のスコアを取得し、
    前記データに基づき、前記実演技の中で、実施済みの技および前記実施済みの技のスコアを取得し、
    前記予定演技情報および前記データの少なくとも一方に基づき、前記実演技の中で、これから実施される可能性が高い未実施の技を予測し、
    前記実施済みの技のスコアと、前記予測された未実施の技が成功した場合の第二の予測スコアとに基づき、実施中の前記実演技全体の第三の予測スコアを予測し、
    前記予定演技の第一の予測スコアと、前記第三の予測スコアとを表示する画面情報を生成する
    処理を実行することを特徴とする画面生成方法。
  6. 前記第三の予測スコアを予測する処理によって予測された前記第三の予測スコアと、他の競技者のスコアとを基にして、前記競技者および前記他の競技者の順位を予測し、予測した順位の情報を表示する処理を更に実行することを特徴とする請求項5に記載の画面生成方法。
  7. 前記未実施の技を予測する処理は、前記データに基づく技の開始時の競技者の姿勢に基づき、前記未実施の技を予測することを特徴とする請求項5または6に記載の画面生成方法。
  8. 前記予定演技情報を基にして、前記競技者が演技を開始してから演技を終了するまでの演技時間を予測し、前記実演技が開始した場合に、前記演技時間を基にして、演技の残り時間を算出する処理を更に実行し、前記画面情報を生成する処理は、前記画面情報に、前記演技の残り時間の情報を含めることを特徴とする請求項5に記載の画面生成方法。
  9. 採点競技の競技者が実施予定の複数の技を含む予定演技情報を取得し、前記予定演技情報から、前記複数の技が成功した場合の第一の予測スコアを算出し、前記予定演技情報の第一の予測スコアを表示する画面情報を生成する前処理部と、
    前記競技者による実演技が開始した場合に、前記実演技の中において、前記実演技をリアルタイムでセンシングしたデータに基づき特定される、実施済みの技および前記実施済みの技のスコアを取得し、前記予定演技情報および前記データの少なくとも一方に基づき、前記実演技の中で、これから実施される可能性が高い未実施の技を予測し、前記実施済みの技のスコアと、前記予測された未実施の技が成功した場合の第二の予測スコアとに基づき、実施中の前記実演技全体の第三の予測スコアを予測し、前記第一の予測スコアと、前記第三の予測スコアとを表示する画面情報を生成する画面生成部と
    を有することを特徴とする情報処理装置。
  10. 前記画面生成部は、前記第三の予測スコアと、他の競技者のスコアとを基にして、前記競技者および前記他の競技者の順位を予測し、予測した順位の情報を表示することを特徴とする請求項9に記載の情報処理装置。
  11. 前記データに基づく技の開始時の競技者の姿勢に基づき、前記未実施の技を予測する認識部を更に有することを特徴とする請求項9または10に記載の情報処理装置。
  12. 前記画面生成部は、前記競技者が演技を開始してから演技を終了するまでの演技時間を予測し、前記実演技が開始した場合に、前記演技時間を基にして、演技の残り時間を算出し、前記画面情報に、前記演技の残り時間の情報を含めることを特徴とする請求項9に記載の情報処理装置。
JP2019567450A 2018-01-24 2018-01-24 画面生成プログラム、画面生成方法および情報処理装置 Active JP6923006B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/002169 WO2019146024A1 (ja) 2018-01-24 2018-01-24 画面生成プログラム、画面生成方法および情報処理装置

Publications (2)

Publication Number Publication Date
JPWO2019146024A1 true JPWO2019146024A1 (ja) 2021-01-28
JP6923006B2 JP6923006B2 (ja) 2021-08-18

Family

ID=67395262

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019567450A Active JP6923006B2 (ja) 2018-01-24 2018-01-24 画面生成プログラム、画面生成方法および情報処理装置

Country Status (5)

Country Link
US (1) US11446561B2 (ja)
EP (1) EP3744408A4 (ja)
JP (1) JP6923006B2 (ja)
CN (1) CN111867687B (ja)
WO (1) WO2019146024A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10596436B1 (en) * 2016-11-08 2020-03-24 Airborne Athletics, Inc. Basketball training system
WO2021019641A1 (ja) * 2019-07-29 2021-02-04 富士通株式会社 表示方法、表示プログラムおよび情報処理装置
CN111450509A (zh) * 2020-03-24 2020-07-28 集美大学 机器人竞赛计分数据处理方法、系统、存储介质、计算机

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090220124A1 (en) * 2008-02-29 2009-09-03 Fred Siegel Automated scoring system for athletics
US20140136119A1 (en) * 2009-08-28 2014-05-15 Allen Joseph Selner, III Rating a physical capability by motion analysis
WO2016092933A1 (ja) * 2014-12-08 2016-06-16 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
US20170189784A1 (en) * 2014-10-10 2017-07-06 Fujitsu Limited Non-transitory computer-readable recording medium, skill determination method, skill determination device and server

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4318441B2 (ja) 2002-09-13 2009-08-26 ヤマハ株式会社 カラオケ装置
US20080189634A1 (en) * 2007-02-01 2008-08-07 Avadis Tevanian Graphical Prediction Editor
KR101591779B1 (ko) * 2009-03-17 2016-02-05 삼성전자주식회사 모션 데이터 및 영상 데이터를 이용한 골격 모델 생성 장치및 방법
JP5440080B2 (ja) 2009-10-02 2014-03-12 ソニー株式会社 行動パターン解析システム、携帯端末、行動パターン解析方法、及びプログラム
US9981193B2 (en) * 2009-10-27 2018-05-29 Harmonix Music Systems, Inc. Movement based recognition and evaluation
JP5358534B2 (ja) 2010-08-17 2013-12-04 日本電信電話株式会社 行動経路推定方法及びプログラム
US9396385B2 (en) * 2010-08-26 2016-07-19 Blast Motion Inc. Integrated sensor and video motion analysis method
US8761437B2 (en) * 2011-02-18 2014-06-24 Microsoft Corporation Motion recognition
JP5984002B2 (ja) * 2012-08-29 2016-09-06 カシオ計算機株式会社 運動支援装置、運動支援方法及び運動支援プログラム
US9566021B2 (en) * 2012-09-12 2017-02-14 Alpinereplay, Inc. Systems and methods for synchronized display of athletic maneuvers
US9652992B2 (en) * 2012-10-09 2017-05-16 Kc Holdings I Personalized avatar responsive to user physical state and context
US20140287388A1 (en) * 2013-03-22 2014-09-25 Jenna Ferrier Interactive Tumble Gymnastics Training System
US9440152B2 (en) * 2013-05-22 2016-09-13 Clip Engine LLC Fantasy sports integration with video content
JP2015146980A (ja) * 2014-02-07 2015-08-20 セイコーエプソン株式会社 運動支援システム、運動支援装置及び運動支援方法
JP5826893B1 (ja) 2014-06-02 2015-12-02 ヤンマー株式会社 変化点予測装置、変化点予測方法、及びコンピュータプログラム
US10143908B2 (en) * 2014-06-04 2018-12-04 Sylvester Butler Single squad matchup prediction pool
FR3023031A1 (fr) * 2014-06-25 2016-01-01 Renaud Maroy Procede d'identification d'un mouvement par filtrage bayesien recursif quantifie
US10417698B2 (en) * 2015-01-15 2019-09-17 Spread Group Inc. Auction system and method
US10409961B2 (en) * 2015-02-04 2019-09-10 Nike, Inc. Predictable and adaptive personal fitness planning
JP6163635B2 (ja) * 2015-10-21 2017-07-19 国立大学法人 筑波大学 評価情報提供システムおよび評価情報提供方法
CN105744313A (zh) * 2016-01-11 2016-07-06 深圳易赛天下互联网科技有限公司 一种在线比赛方法以及在线比赛系统
FR3049371A1 (fr) * 2016-03-24 2017-09-29 Univ Grenoble Alpes Procede et systeme pour l'estimation d'une demande ou d'un cout attentionnel associe a l'execution d'une tache ou des strategies de partage de l'attention developpees par un individu
US11006856B2 (en) * 2016-05-17 2021-05-18 Harshavardhana Narayana Kikkeri Method and program product for multi-joint tracking combining embedded sensors and an external sensor
WO2018069981A1 (ja) * 2016-10-11 2018-04-19 富士通株式会社 運動認識装置、運動認識プログラムおよび運動認識方法
JP2018082783A (ja) * 2016-11-22 2018-05-31 セイコーエプソン株式会社 ワークアウト情報表示方法、ワークアウト情報表示システム、サーバーシステム、電子機器、情報記憶媒体及びプログラム
US10380650B2 (en) * 2017-07-26 2019-08-13 Jehan Hamedi Systems and methods for automating content design transformations based on user preference and activity data

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090220124A1 (en) * 2008-02-29 2009-09-03 Fred Siegel Automated scoring system for athletics
US20140136119A1 (en) * 2009-08-28 2014-05-15 Allen Joseph Selner, III Rating a physical capability by motion analysis
US20170189784A1 (en) * 2014-10-10 2017-07-06 Fujitsu Limited Non-transitory computer-readable recording medium, skill determination method, skill determination device and server
WO2016092933A1 (ja) * 2014-12-08 2016-06-16 ソニー株式会社 情報処理装置、情報処理方法およびプログラム

Also Published As

Publication number Publication date
US20200346095A1 (en) 2020-11-05
CN111867687B (zh) 2021-10-22
CN111867687A (zh) 2020-10-30
JP6923006B2 (ja) 2021-08-18
WO2019146024A1 (ja) 2019-08-01
EP3744408A4 (en) 2021-01-20
US11446561B2 (en) 2022-09-20
EP3744408A1 (en) 2020-12-02

Similar Documents

Publication Publication Date Title
JP6082101B2 (ja) 身体動作採点装置、ダンス採点装置、カラオケ装置及びゲーム装置
JP6915701B2 (ja) 抽出プログラム、抽出方法および情報処理装置
US20200193866A1 (en) Non-transitory computer readable recording medium, practice assist method, and practice assist system
JP7067561B2 (ja) 採点方法、採点プログラムおよび採点装置
JP6923006B2 (ja) 画面生成プログラム、画面生成方法および情報処理装置
EP1800722A1 (en) Game result evaluation method and device
JPWO2018211571A1 (ja) 演技表示プログラム、演技表示方法および演技表示装置
JP2020089539A (ja) 表示方法、表示プログラムおよび情報処理装置
CN111480178B (zh) 存储技巧识别程序的存储介质、技巧识别方法以及技巧识别系统
JP6796118B2 (ja) ゲームプログラム、方法、および情報処理装置
JP6797986B1 (ja) ゲーム支援装置および動画配信装置
CN111241359A (zh) 显示方法、信息处理设备和计算机可读记录介质
JP2021030060A (ja) ゲーム支援装置および動画配信装置
JP2005199016A (ja) ゲーム結果評価方法、ゲーム結果評価装置、及びゲーム結果評価プログラム
JP2009089744A (ja) 動画表示システム、動画表示方法、およびコンピュータプログラム
JP5958388B2 (ja) 情報処理装置及びプログラム
JP7070675B2 (ja) 表示方法、表示プログラムおよび情報処理装置
JP6449561B2 (ja) プログラム、ゲーム装置及びゲームシステム
WO2021019641A1 (ja) 表示方法、表示プログラムおよび情報処理装置
JP2019092610A (ja) ゲームプログラム、方法、および情報処理装置
JP7440313B2 (ja) プログラム、端末、ゲームシステム及びゲーム管理装置
JP7427039B2 (ja) プログラム、ゲーム装置、ゲーム管理装置及びゲームシステム
JP7087655B2 (ja) 表示方法、表示プログラムおよび情報処理装置
JP2019093114A (ja) ゲームプログラム、方法、および情報処理装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200624

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200624

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210629

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210712

R150 Certificate of patent or registration of utility model

Ref document number: 6923006

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150