CN116963808A - 技巧识别方法、技巧识别装置以及体操评分支援系统 - Google Patents
技巧识别方法、技巧识别装置以及体操评分支援系统 Download PDFInfo
- Publication number
- CN116963808A CN116963808A CN202180094916.6A CN202180094916A CN116963808A CN 116963808 A CN116963808 A CN 116963808A CN 202180094916 A CN202180094916 A CN 202180094916A CN 116963808 A CN116963808 A CN 116963808A
- Authority
- CN
- China
- Prior art keywords
- skill
- recognition
- skills
- bone
- grip
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 100
- 210000000988 bone and bone Anatomy 0.000 claims abstract description 106
- 238000001514 detection method Methods 0.000 claims abstract description 29
- 238000012545 processing Methods 0.000 claims abstract description 29
- 238000004364 calculation method Methods 0.000 claims description 62
- 238000010801 machine learning Methods 0.000 claims description 48
- 230000008569 process Effects 0.000 claims description 38
- 238000005452 bending Methods 0.000 claims description 8
- 230000008859 change Effects 0.000 claims description 8
- 230000006870 function Effects 0.000 description 35
- 238000010586 diagram Methods 0.000 description 25
- 230000033001 locomotion Effects 0.000 description 24
- 238000012549 training Methods 0.000 description 14
- 238000004891 communication Methods 0.000 description 9
- 210000000707 wrist Anatomy 0.000 description 9
- 230000036544 posture Effects 0.000 description 8
- 230000009467 reduction Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 210000000245 forearm Anatomy 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 210000003127 knee Anatomy 0.000 description 3
- 239000000470 constituent Substances 0.000 description 2
- 239000006185 dispersion Substances 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 241000283086 Equidae Species 0.000 description 1
- 210000003423 ankle Anatomy 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 210000001513 elbow Anatomy 0.000 description 1
- 210000002310 elbow joint Anatomy 0.000 description 1
- 210000001624 hip Anatomy 0.000 description 1
- 210000001503 joint Anatomy 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000013077 scoring method Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
- G06V40/23—Recognition of whole body movements, e.g. for sport training
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63B—APPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
- A63B71/00—Games or sports accessories not covered in groups A63B1/00 - A63B69/00
- A63B71/06—Indicating or scoring devices for games or players, or for other sports activities
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
- G06V40/28—Recognition of hand or arm movements, e.g. recognition of deaf sign language
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63B—APPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
- A63B5/00—Apparatus for jumping
- A63B5/12—Bolster vaulting apparatus, e.g. horses, bucks, tables
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63B—APPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
- A63B71/00—Games or sports accessories not covered in groups A63B1/00 - A63B69/00
- A63B71/06—Indicating or scoring devices for games or players, or for other sports activities
- A63B71/0605—Decision makers and devices using detection means facilitating arbitration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30221—Sports video; Sports image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/03—Recognition of patterns in medical or anatomical images
- G06V2201/033—Recognition of patterns in medical or anatomical images of skeletal patterns
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- Social Psychology (AREA)
- Human Computer Interaction (AREA)
- Psychiatry (AREA)
- Evolutionary Computation (AREA)
- Physical Education & Sports Medicine (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
- Electrically Operated Instructional Devices (AREA)
Abstract
在技巧识别方法中,计算机执行如下处理:获取通过骨骼检测得到的骨骼信息;执行基于骨骼信息缩小至体操比赛所包含的技巧中一部分的技巧的第一技巧识别;以及执行根据专用于通过第一技巧识别缩小后的一部分的技巧的识别的专用算法识别表演了一部分的技巧中哪个技巧的第二技巧识别。
Description
技术领域
本发明涉及技巧识别技术。
背景技术
在体操、医疗等广泛的领域中,使用选手、患者等人的骨骼信息,自动地识别人的动作。例如,体操比赛中的现状的评分方法通过多个裁判的目视观察进行,但由于器具的进化、训练方法的改善,伴随动作的复杂化的技巧的高度化发展,而出现裁判对技巧的识别变得困难的情况。其结果,每个裁判对选手的评分结果不同等对评分的公平性、正确性的维持产生担心。
由此,利用使用了选手的三维骨骼坐标(以下,有记载为“骨骼信息”的情况)的自动评分技术。例如,通过3D(Three-Dimensional:三维)激光传感器获取选手的三维点群数据,并使用三维点群数据计算选手的骨骼信息。然后,根据骨骼信息的时间序列数据计算表示与“技巧”对应的姿势的特征的特征量,基于骨骼信息的时间序列数据和特征量自动地识别由选手实施的技巧,并向裁判提供自动评分结果,从而提高评分的公平性、正确性。
通过D(Difficulty:难度)得分与E(Execution:完成度)得分的合计计算表演的得分。例如,D得分是基于技巧的成立不成立计算的得分。E得分是根据技巧的完成度,通过扣分法计算出的得分。技巧的成立不成立、技巧的完成度基于记述了评分规则的比赛规则手册通过裁判员的目视观察判断。
专利文献1:日本特开2020-89539号公报
专利文献2:日本特开2020-38440号公报
然而,上述的特征量中包含各种特征量,从腰、膝盖的姿势等在许多的项目中共用的特征量到特定的项目例如鞍马固有的特征量,例如手的支撑位置。这样在各种特征量中既包含有容易精度良好地求出的特征量,也包含有不容易精度良好地求出的特征量。
然而,有在技巧的识别中不容易精度良好地求出的特征量较重要的场景。在这样的场景中特征量的计算精度较差的情况下,有难以抑制技巧的误识别的一面。
发明内容
在一个方面,本发明的目的在于提供能够实现技巧识别的精度提高的技巧识别方法、技巧识别装置以及体操评分支援系统。
在一方式的技巧识别方法中,计算机执行如下处理:获取通过骨骼检测得到的骨骼信息;执行第一技巧识别,该第一技巧识别是基于上述骨骼信息缩小至体操比赛所包含的技巧中一部分的技巧的处理;以及执行第二技巧识别,该第二技巧识别是根据专用于通过上述第一技巧识别缩小后的一部分的技巧的识别的专用算法识别表演了上述一部分的技巧中哪个技巧的处理。
能够实现技巧识别的精度提高。
附图说明
图1是表示体操评分支援系统的构成例的图。
图2是表示骨骼识别技术的示意图。
图3是表示技巧识别技术的示意图。
图4是表示技巧识别装置的功能构成例的框图。
图5是表示暂定技巧的辞典数据的一个例子的图。
图6是表示倒立转体的一个例子的示意图。
图7是表示转动信息的一个例子的图。
图8是表示转动信息的一个例子的图。
图9是表示背转向后回环与回环的一个例子的示意图。
图10是表示技巧的辞典数据的一个例子的图。
图11是表示技巧识别处理的顺序的流程图。
图12是表示第一系列的专用算法的一个例子的图。
图13是表示第二系列的专用算法的一个例子的图。
图14是表示硬件构成例的图。
具体实施方式
以下,参照附图对本申请所涉及的技巧识别方法、技巧识别装置以及体操评分支援系统的实施例进行说明。在各实施例中,仅示出一个例子、方面,并不通过这样的例示限定数值、功能的范围、利用情景等。而且,各实施例能够在不使处理内容矛盾的范围内适当地组合。
实施例1
<系统构成>
图1是表示体操评分支援系统的构成例的图。图1所示的体操评分支援系统1拍摄作为被拍摄体的表演者3的三维数据,并识别骨骼等来进行正确的技巧的评分。
如图1所示,在体操评分支援系统1包含有3D激光传感器5、骨骼检测装置7、以及技巧识别装置10。
3D激光传感器5是使用红外线激光等对与扫描点对应的每个像素测定到对象物为止的距离,即所谓的深度的传感器装置的一个例子。例如,作为3D激光传感器5的例子,可以是深度图像照相机、或者使用了LIDAR(Light Detection and Ranging:光探测与测距)技术的激光传感器,例如MEMS(Micro-Electro-Mechanical Systems:微机电系统)反射镜型激光传感器。
骨骼检测装置7是提供使用通过3D激光传感器5测定的深度图像,检测表演者3的骨骼部位例如关节的位置等骨骼信息的骨骼检测功能的计算机的一个例子。此外,有时骨骼检测也被称为骨骼识别、或者骨骼估计。
通过3D激光传感器5以及骨骼检测装置7,无标记地实现执行表演者3的动作的三维测量的3D感测。
技巧识别装置10是提供使用通过骨骼检测装置7的骨骼检测得到的骨骼信息的时间序列数据,识别由表演者3实施的技巧的技巧识别功能的计算机的一个例子。在这样的技巧识别功能中,能够进一步对基于表演者3的技巧识别结果执行表演者3的技巧甚至表演的评分例如D得分、E得分的计算的自动评分功能进行打包。
此外,这里,仅作为一个例子,列举了将技巧识别结果使用于自动评分的例子,但技巧识别结果的利用方法并不限定于此。例如,骨骼信息、技巧识别结果能够输出到评分支援用的应用程序(以下,记载为“评分支援应用”)。评分支援应用能够实现以正面、侧面、平面等多个视点显示表演者3的表演时的每一帧的关节角度的多角度视图、甚至显示作为技巧识别结果得到的技巧名等的技巧识别视图等显示。除了这样的评分支援应用之外,能够在训练应用、播放·娱乐内容等各种利用情景中使用技巧识别结果。这些后端的功能、服务也可以并不一定与技巧识别功能打包,当然可以作为与技巧识别装置10不同的装置、信息系统、云服务提供。
<骨骼识别>
图2是表示骨骼识别技术的示意图。如图2所示,骨骼识别功能仅作为一个例子,能够通过组合了使用机器学习模型的骨骼识别和拟合的混合方式实现。
例如,骨骼识别能够使用将深度图像作为输入并输出3D骨骼坐标的估计值的机器学习模型7m,例如CNN(Convolutional Neural Network:卷积神经网络)系的神经网络。这样的机器学习模型7m的训练能够使用包含将深度图像以及正解标签的3D骨骼坐标建立了对应关系的训练数据的数据集7TR。例如,能够通过利用计算机图形学等根据体操比赛的3D骨骼坐标生成深度图像来准备训练数据。在这样的数据集之下,在学习阶段,能够将深度图像作为机器学习模型7m的说明变量,将标签作为机器学习模型7m的目标变量,根据任意的机器学习的算法例如深度学习等对机器学习模型7m进行训练。由此,得到训练完毕的机器学习模型7M。在推论阶段,将从被设置为克服体操器具、表演者3自身的遮挡的多视点的3D激光传感器5A~5N输出的多视点的深度图像输入到机器学习模型7M。这样输入了多视点的深度图像的机器学习模型7M输出表演者3的3D骨骼坐标。
在拟合中,将机器学习模型7M的3D骨骼坐标的输出、上一帧中的拟合结果等作为初始值,将人体模型应用于综合了多视点的深度图像的3D点群。例如,通过定义表示3D点群的坐标与人体模型的表面坐标的一致度的评价函数(似然性),并通过最佳化求出似然性最高的关节角度,来决定3D骨骼坐标。
<基于技巧识别的自动评分>
图3是表示技巧识别技术的示意图。在图3中作为体操比赛的一个例子,示出进行鞍马的技巧识别的例子。如图3所示,技巧识别功能按照根据3D骨骼坐标的时间序列数据识别出的基本运动间的接缝分割3D骨骼坐标的时间序列数据(S1)。这里所说的“基本运动”是指构成表演的技巧所共用的基本的动作,例如如技巧的辞典数据13B所例示的那样,能够通过将一个或者多个基本运动与每个技巧建立关联地登记来辞典化。
对像这样进行了分割的每个3D骨骼坐标的时间序列数据识别该时间序列数据所包含的基本运动,并且从该时间序列数据提取手、脚尖的位置、肩、腰的扭转角度等特征量(S2以及S3)。
其后,基于在步骤S2中识别出的基本运动、和在步骤S3中提取出的特征量识别基本技巧(S4)。在此基础上,通过将作为步骤S4的识别结果得到的基本技巧的时间序列模式与登记于技巧的辞典数据13B的时间序列模式进行对照,来判定由表演者3实际表演的技巧(S5)。例如,就图3所示的例子而言,作为第一个基本运动识别为“正交叉倒立”,作为第二个基本运动识别为“下分腿支撑”的结果,判定为表演的技巧是“交叉倒立”。
然后,通过根据评分规则对在步骤S5中判定出的技巧的价值分以及实施分进行汇总来计算D得分以及E得分(S6以及S8)。此外,在步骤S8的E得分的计算前,对在步骤S5判定出的每个技巧判定在该技巧的表演时提取的特征量是否符合评分规则所规定的扣分项目(S7)。此时,在相当于扣分项目的情况下,在步骤S8中从技巧的实施分减去实施扣分。
这样的技巧识别实现吊环、鞍马、男女跳马、平衡木等五种项目的自动评分。
<课题的一方面>
然而,为了使实现上述的技巧识别的体操比赛进一步从五种项目扩展,有特征量的计算精度的偏差成为妨碍的情况。
即,在上述的特征量中包含各种特征量,从腰、膝盖的姿势等在许多的项目中共用的特征量到特定的项目固有的特征量例如若为鞍马则为手的支撑位置。有像这样在各种特征量中既包含有容易精度良好地求出的特征量,也包含有不容易精度良好地求出的特征量的一面。除此之外,在体操比赛中,在一个项目中进行各种运动,所以也有难以通过一样的方法计算特征量的一面。
然而,有不容易精度良好地求出的特征量在技巧识别中较重要的场景。在这样的场景下特征量的计算精度较差的情况下,有难以抑制技巧的误识别的一面。
仅作为一个例子,例举技巧识别扩展至单杠、高低杠等项目的情况。在单杠、高低杠的情况下,能够计算表演者3的单杠、高低杠的握法作为特征量,但由于根据握法而技巧的评价(分数)改变,所以握法的计算精度对技巧识别、自动评分的精度造成的影响较大。
例如,在单杠、高低杠的握法中能够包含有正握、反握、扭臂握。反握是指从正握向外转体180°的状态,另外,扭臂握是指从正握向内转体180°的状态。这些反握以及扭臂握虽然手臂的扭转为相反方向,但由于难以根据图像观测手臂的扭转,所以有即使是裁判员等专家也难以根据握法确定的状态的图像进行区分的情况。
作为高精度地区分这样的握法的研究,能够列举获取手指的关节位置的参考技术1、获取手臂的转动信息的参考技术2等。这些参考技术1以及参考技术2与公知的以往技术不同。
例如,在参考技术1中,获取除了头、肩、脊椎、手肘、手腕、腰、膝盖、脚踝等主要关节之外,还包含手指的关节位置的3D骨骼坐标。然而,手指的尺寸与其它的骨骼部位相比较小,所以有在深度图像上与其它的骨骼部位相比较小,并且较细地观测到的侧面。并且,手指由于以与杠接触的状态进行拍摄,所以有即使是多视点的深度图像也容易产生遮挡等的侧面。根据这些侧面,在参考技术1中,获取正确的手指的关节位置本身较困难。除此之外,即使假设能够获取正确的手指的关节位置,由于在反握以及扭臂握之间手指的关节位置不容易出现差异,所以依然难以区分反握以及扭臂握。
另外,在参考技术2中,获取手臂的骨的转动信息。然而,伴随手臂的旋转产生的深度图像的变化与伴随关节位置的变化产生的深度图像的变化相比较小,所以根据手臂的弯曲程度而手臂的转动信息的计算精度产生偏差。例如,在手臂伸直的情况下,与手臂弯曲的情况相比手臂的转动信息的计算精度降低,所以难以获取高精度的转动信息。该情况下,依然不能够区分握法,所以导致技巧识别、自动评分的精度的降低。
<课题解决研究的一方面>
因此,在本实施例所涉及的技巧识别功能中,基于通过骨骼检测得到的骨骼信息缩小至体操比赛所包含的技巧中一部分,并选择专用于缩小后的一部分的技巧的识别的专用算法来识别表演了一部分的技巧中哪个技巧。换句话说,通过代替使用与技巧的辞典所包含的全部的技巧对应的技巧识别的算法,而应用专用于一部分的技巧的识别的专用算法的研究来解决课题。
仅作为一个例子,例举单杠作为体操比赛的一个例子。例如,列举根据表演者3的3D骨骼坐标的时间序列数据、和根据该时间序列数据计算出的表演者3的握法以外的其它的特征量,按照基本运动1“向前回环成倒立”、基本运动2“转体一周”的顺序识别出基本运动的情况。该情况下,能够缩小至体操比赛“单杠”所包含的全部的技巧中的“向前回环转体一周成单手扭臂握”以及“向前回环转体一周成扭臂握”两个技巧。这两个技巧的难度不同,所以在D得分的汇总时加上的价值分也产生差异。
如图3所示,通过将上述两个技巧的信息反馈给特征量的计算,从而作为专用于上述两个技巧的识别的专用算法的一个例子,能够应用计算成为区分上述两个技巧的决定性因素的握法的特征量的算法。作为一个方面,这样的算法能够基于在表演的构成或者规则等制约条件之下成立的逻辑构建。即,在倒立转体时的非轴手的手抓杆这样的制约条件之下,存在其手肘与伸展相比弯曲的可能性更高这样的启发。因此,在上述的制约条件之下,与在手肘的伸展时使用于拟合的手臂的转动信息的可靠度相比在手肘的弯曲时使用于拟合的手臂的转动信息的可靠度较高这样的逻辑成立。基于这样的逻辑,应用作为握法的特征量的计算时的辅助信息,与表演者3的骨骼信息的时间序列数据一起使用手臂的弯曲时的转动信息的算法。通过应用这样的算法,与根据表演者3的骨骼信息的时间序列数据计算握法的特征量的情况相比,能够高精度地计算握法的特征量。其结果,能够使用高精度的特征量执行技巧识别。
因此,根据本实施例的技巧识别功能,能够实现技巧识别的精度提高。进而,也能够实现自动评分、评分支援、训练、娱乐内容等后端的功能、服务的精度提高。
<技巧识别装置10的构成>
图4是表示技巧识别装置10的功能构成例的框图。在图4中,将与技巧识别装置10具有的技巧识别功能对应的模块模式化。如图4所示,技巧识别装置10具有通信接口部11、存储部13、以及控制部15。此外,在图1中仅摘录示出与上述的技巧识别功能相关的功能部,除了骨骼检测功能、自动评分功能之外,在技巧识别装置10也可以具备现有的计算机默认或者有选择地装备的功能。
通信接口部11与在与其它的装置例如骨骼检测装置7之间进行通信控制的通信控制部的一个例子对应。仅作为一个例子,通信接口部11能够通过LAN(Local Area Network:局域网)卡等网络接口卡实现。作为一个方面,通信接口部11从骨骼检测装置7受理包含3D骨骼坐标、或者拟合后的3D骨骼坐标的骨骼信息,或者向未图示的外部装置输出技巧识别结果、或者自动评分结果等。
存储部13是存储各种数据的功能部。仅作为一个例子,存储部13能够由存储器例如内部、外部或者辅助的存储器实现。例如,存储部13存储暂定技巧的辞典数据13A、和技巧的辞典数据13B。除了这些暂定技巧的辞典数据13A以及技巧的辞典数据13B以外,存储部13也能够存储技巧识别结果、自动评分结果等各种数据。此外,暂定技巧的辞典数据13A以及技巧的辞典数据13B的各数据的说明与进行参照或者生成的处理的说明一起后述。
控制部15是进行技巧识别装置10的整体控制的处理部。例如,能够通过硬件处理器实现控制部15。如图1所示,控制部15具有获取部15A、第一计算部15B、第一识别部15C、选择部15D、第二计算部15E、以及第二识别部15F。此外,虽然在图1摘录地示出与技巧识别功能对应的功能,但也可以进一步包含骨骼检测功能,也可以进一步包含自动评分、评分支援、训练、娱乐内容等后端的功能。
获取部15A是获取骨骼信息的处理部。仅作为一个例子,获取部15A能够从骨骼检测装置7获取骨骼信息的时间序列数据。这里,获取部15A获取骨骼信息的信息源可以是任意的信息源,并不限定于经由网络NW的通信。例如,获取部15A也可以从技巧识别装置10具有的存储器、或者能够拆装于技巧识别装置10的可移动介质例如存储卡、USB(UniversalSerial Bus:通用串行总线)存储器等获取骨骼信息。
第一计算部15B是计算缩小体操比赛的技巧的第一技巧识别所使用的第一特征量的处理部。仅作为一个例子,第一计算部15B根据骨骼信息的时间序列数据计算第一特征量。此时,虽然第一计算部15B也能够计算与技巧的辞典数据13B所定义的全部的项目例如图3所例示的项目相关的特征量,但也能够缩小至第一特征量并执行计算。
这里所说的“第一特征量”仅指体操比赛的全部的技巧中一部分的技巧,即缩小至一个或者多个技巧的特征量,也可以并不一定包含与全部的项目相关的特征量。作为这样的第一特征量的例子,能够列举技巧的辞典数据13B所定义的特征量中容易精度良好地求出的特征量。例如,能够使用计算精度在阈值以上的特征量作为第一特征量。作为进一步的加权要件,也能够使用精度稳定的特征量,例如计算精度的偏差例如方差小于阈值的特征量作为第一特征量。
第一识别部15C是执行第一技巧识别的处理部。仅作为一个例子,第一技巧识别能够使用国际公开第2019/116495号所记载的技巧识别技术。
作为一实施方式,第一识别部15C能够使用骨骼信息的时间序列数据、和通过第一计算部15B计算出的第一特征量来执行第一技巧识别。更详细而言,第一识别部15C以根据3D骨骼坐标的时间序列数据识别出的基本运动间的接缝分割3D骨骼坐标的时间序列数据。然后,第一识别部15C对分割后的每个部分时间序列数据识别该部分时间序列数据所包含的基本运动。其后,第一识别部15C基于识别出的基本运动、和通过第一计算部15B计算出的第一特征量识别基本技巧。在此基础上,第一识别部15C通过对作为识别结果得到的基本技巧的时间序列模式与登记于暂定技巧的辞典数据13A的时间序列模式进行对照,来缩小体操比赛的全部的技巧中由表演者3实际表演的技巧的候补。以下,从与通过后述的第二技巧识别唯一地识别出的实际表演的技巧区分的方面出发,有将通过第一技巧识别暂定地缩小的技巧记载为“暂定技巧”的情况。
图5是表示暂定技巧的辞典数据13A的一个例子的图。在图5中,仅作为一个例子,示出与体操比赛“单杠”相关的暂定技巧的辞典数据13A。如图5所示,在暂定技巧的辞典数据13A中,能够采用对每个暂定技巧将技巧的候补的集合以及基本技巧的时间序列模式建立对应关系的数据。并且,在基本技巧能够包含有基本运动以及特征量等项目。这里,仅作为一个方面,暂定技巧的辞典数据13A使用于暂定技巧的缩小。从这样的方面出发,在暂定技巧的辞典数据13A中也可以并不一定包含通过从暂定技巧中唯一地识别实际表演的技巧的第二技巧识别使用的第二特征量。
列举对图5所示的暂定技巧的辞典数据13A所定义的基本技巧的时间序列模式与使用通过第一计算部15B计算出的第一特征量按照基本运动“向前回环成倒立”、基本运动“转体一周”的顺序识别出的基本技巧的时间序列模式进行对照的例子。该情况下,缩小至根据暂定技巧ID“001”识别出的暂定技巧,即候补1“向前回环转体一周成单手扭臂握”以及候补2“向前回环转体一周成扭臂握”两个技巧。换句话说,通过将成为区分两个技巧的决定性因素的第二特征量“握法”的对照条件缓和为ANY,代替识别而作为缩小发挥作用。
另外,列举对图5所示的暂定技巧的辞典数据13A与使用通过第一计算部15B计算出的第一特征量按照基本运动“向前回环成倒立”、基本运动“转体1/2周”的顺序识别出的基本技巧的时间序列模式进行对照的例子。该情况下,缩小至根据暂定技巧ID“002”识别出的暂定技巧,即候补1“向前回环转体成倒立”。该向前回环转体成倒立为不限握法的技巧,所以不等待第二技巧识别的执行,而缩小为一个。
并且,列举对图5所示的暂定技巧的辞典数据13A与使用通过第一计算部15B计算出的第一特征量仅识别出基本运动“向前回环成倒立”的基本技巧的时间序列模式进行对照的例子。该情况下,缩小至根据暂定技巧ID“003”识别出的暂定技巧,即候补1“向前回环”以及候补2“扭臂握回环”。换句话说,通过将成为区分候补1“向前回环”以及候补2“扭臂握回环”的两个技巧的决定性因素的第二特征量“握法”的对照条件缓和为ANY,代替识别而作为缩小发挥作用。
选择部15D是选择专用于通过第一识别部15C缩小的一部分的技巧的识别的专用算法的处理部。仅作为一个例子,选择部15D在得到了第一识别部15C的暂定技巧识别结果的情况下,能够根据与作为该暂定技巧识别结果得到的暂定技巧建立关联的函数名调出缩小为暂定技巧的技巧候补的专用算法。例如,通过在暂定技巧的辞典数据13A中进一步将函数名与暂定技巧ID建立关联并登记,能够调出专用算法。除此之外,也可以使用与暂定技巧的辞典数据13A不同,而定义了暂定技巧与函数名的对应关系的数据库例如检查表。
第二计算部15E是计算第二特征量的处理部。作为一个方面,第二计算部15E根据通过选择部15D选择的专用算法,计算成为从通过第一技巧识别缩小后的技巧候补中区分实际表演的技巧的决定性因素的第二特征量。能够基于在表演的构成或者规则等制约条件之下成立的逻辑构建这样的专用算法。
这里,作为专用算法的一个例子,列举计算成为区分根据通过倒立转体转体后的握法而难度不同的第一系列的技巧候补的决定性因素的第二特征量“握法”的例子。仅作为这样的技巧候补的组合的一个例子,列举根据图5所示的暂定技巧ID“001”识别的暂定技巧所包含的候补1“向前回环转体一周成单手扭臂握”以及候补2“向前回环转体一周成扭臂握”。并不限定于此,在第一系列中存在以下述(1)~下述(3)为首的许多的技巧候补的组合。
(1)“后翻回环3/2转体单手扭臂握”以及“后翻回环3/2转体扭臂握”
(2)“正掏(stalder)转体倒立”以及“正掏转体成扭臂握”
(3)“正掏跳转3/2成单手扭臂握”以及“正掏跳转3/2成扭臂握”
图6是表示倒立转体的一个例子的示意图。在图6中,以箭头的方向示出时间t的流动,并且示意地示出从时刻t11到时刻t14为止的表演者3的姿势P11~P14。如图6所示,在时刻t11,表演者3的左手作为轴手,另一方面在不为轴手的右手离杆的状态下移至倒立的姿势。其后,在时刻t12~时刻t14,以将表演者3的左手作为轴手倒立的状态进行转体一周。这里,根据时刻t11下的右肘关节,可知在到在向倒立转体的移行时不为轴手的右手抓杆为止的期间这样的制约条件之下,存在与右肘伸展的可能性相比弯曲的可能性更高这样的启发。因此,在属于第一系列的技巧候补中,在上述的制约条件之下,与在手肘的伸展时使用于拟合的手臂的转动信息相比在手肘的弯曲时使用于拟合的手臂的转动信息的可靠度较高这样的逻辑可能成立。基于这样的逻辑,构建与表演者3的骨骼信息的时间序列数据一起使用手肘的弯曲时的转动信息作为第二特征量的计算时的辅助信息的专用算法。
更详细而言,首先,第二计算部15E识别表演者3的轴手。例如,能够将手腕的关节位置与单杠的位置的距离较小的一方的手估计为“轴手”。然后,第二计算部15E基于在第一技巧识别时识别为基本运动“转体一周”的第一特征量中特定种类的特征量,例如身体的旋转方向、身体的旋转量等,估计表演者3的轴手的握法。此时,在表演者3的轴手的握法为“扭臂握”的情况下,第二计算部15E执行以下那样的处理。即,第二计算部15E基于在表演者3的不为轴手的一方的手腕与单杠的距离在阈值以上的区间的骨骼检测中使用于拟合的手臂的转动信息估计表演者3的不为轴手的一方的手的握法。而且,在不为轴手的一方的手的握法为扭臂握的情况下,第二计算部15E将第二特征量的握法计算为“扭臂握”。另一方面,在不为轴手的一方的手的握法不为扭臂握的情况下,第二计算部15E将第二特征量的握法计算为“扭臂握以外”。
图7以及图8是表示转动信息的一个例子的图。在图7以及图8中,仅作为转动信息的一个例子,示出进行倒立转体的表演者3的不为轴手的一方的右手的上臂以及前臂的转动值例如旋转角度的合计值的时间波形。在图7示出表演者3的右手以反握的方式握杆的例子,另一方面在图8示出表演者3的右手以扭臂握的方式握杆的例子。此外,在图7以及图8中,图表的纵轴是指转动值,图表的横轴是指时间。
如图7以及图8所示,可知在握法为反握的情况和握法为扭臂握的情况下,由于扭转手腕的方向相反,所以转动值的增减也相反。另外,虽然在图7以及图8中例举了不为轴手的一方的手为右手的情况,但在不为轴手的一方的手为左手的情况下,由于在右手和左手中扭转手腕的方向相反,所以转动值的增减也相反。具体而言,若使右手从正握顺时针地扭转则成为反握,若使右手逆时针地扭转则成为扭臂握,另一方面若使左手从正握顺时针地扭转则成为扭臂握,若使左手逆时针地扭转则成为反握。由于这样的特性,能够基于表演者3的不为轴手的一方的手臂的转动值的增减来区分握法是否为扭臂握。
此外,虽然在图7以及图8中列举了使用上臂以及前臂的转动值的例子,但这仅为一个例子,能够使用上臂的转动值或者前臂的转动值中至少任意一方。
作为专用算法的其它的一个例子,列举计算成为区分根据紧前面的技巧中的特定运动的有无以及特定运动后的换握的有无而难度不同的第二系列的技巧候补的决定性因素的第二特征量“握法”的例子。仅作为这样的技巧候补的组合的一个例子,列举根据图5所示的暂定技巧ID“003”识别的暂定技巧所包含的候补1“向前回环”以及候补2“扭臂握回环”。并不限定于此,在上述的第二系列中,存在包含以下述(1)~下述(2)为首的许多的技巧候补的组合。
(1)“反掏(Endo)”以及“扭臂握反掏”
(2)“反掏转体一周成单手扭臂握”以及“扭臂握反掏转体一周成单手扭臂握倒立”
在属于第二系列的技巧候补中,在下述(イ)以及下述(ロ)的制约条件之下下述(ハ)以及下述(ニ)的逻辑成立。
(イ)抓握以外的动作相同
(ロ)换握为扭臂握并不简单,需要伴随特定运动
(ハ)作为特定运动的例子,相当于阿德勒(Adler)类的技巧、倒立转体等
(ニ)若在与技巧候补对应的运动的紧前面,不进行特定运动则能够判断为不为扭臂握,即使进行特定运动若在完成视为技巧候补的运动之前放开手进行换握则也能够判断为不为扭臂握
基于这样的逻辑,构建以下那样的专用算法。更详细而言,第二计算部15E判定前面的技巧例如第二技巧识别已执行的技巧识别结果中最近的技巧识别结果是否是阿德勒类的技巧。此时,在不为阿德勒类的技巧的情况下,第二计算部15E判定前面的技巧是否是倒立转体。而且,在前面的技巧是倒立转体的情况下,第二计算部15E基于前面的技巧的第二技巧识别所使用的第二特征量判定握法是否为“扭臂握”。此时,在握法为“扭臂握”的情况下,第二计算部15E判定是否在到识别中的技巧完成为止的中途进行了换握,例如判定是否存在手腕的关节位置与单杠的位置的距离在阈值以上的时刻。
这里,在前面的技巧是阿德勒类的技巧或者在倒立转体中握法为扭臂握的技巧中,在技巧的中途未进行换握的情况下,第二计算部15E将第二特征量的握法计算为“扭臂握”。另一方面,在即使前面的技巧为阿德勒类的技巧或者在倒立转体中握法为扭臂握的技巧但在技巧的中途进行换握的情况下、在前面的技巧不为倒立转体的情况下、在即使前面的技巧为倒立转体但握法不为扭臂握的情况下,第二计算部15E将第二特征量的握法计算为“扭臂握以外”。
作为专用算法的其它的一个例子,列举计算成为区分高精度地计算第二特征量的条件判定等的逻辑化困难的第三系列的技巧候补的决定性因素的第二特征量的例子。仅作为这样的技巧候补的组合的一个例子,能够列举“背转向后回环”以及“通常的回环”、“反握背转向后回环”以及“向前回环”、“正握背转向后回环”以及“向后回环”等。
图9是表示背转向后回环和回环的一个例子的示意图。在图9中,在左右排列示出实施背转向后回环的表演者3A的姿势P21~P22、和实施通常的回环的表演者3B的姿势P31~P32。若对表演者3A的姿势P21~P22与表演者3B的姿势P31~P32进行对比,则如图9所示,在两者之间肩的形状不同,但由于肩的形状有个体差,所以通过对腋下的角度等与阈值进行比较难以高精度地区分技巧。
该情况下,仅作为一个例子,能够应用使用将骨骼信息或者骨骼信息的时间序列数据作为输入,并将与第二特征量的值对应的类,例如腋下的开闭作为输出的机器学习模型的专用算法。这样的机器学习模型的训练能够使用赋予了腋下的开闭的正解标签的骨骼信息作为训练数据。例如,在学习阶段,能够将骨骼信息作为机器学习模型的说明变量,将标签作为机器学习模型的目标变量,根据任意的机器学习的算法例如深度学习等对机器学习模型进行训练。由此,能够得到训练完毕的机器学习模型。在推论阶段,将作为拟合结果得到的骨骼信息输入到训练完毕的机器学习模型。这样输入了骨骼信息的机器学习模型输出与腋下的开闭对应的类。
通过将像这样输入到机器学习模型的训练数据、输入数据的范围缩小至与通过第一技巧识别缩小后的第三系列的技巧候补对应的骨骼信息,能够实现第二特征量的高精度化。此外,这里,虽然列举应用将属于第三系列的技巧候补作为对象使用机器学习模型的专用算法的例子,但也能够应用将属于第一系列、第二系列的技巧候补作为对象使用机器学习模型的专用算法。该情况下,能够通过将作为机器学习模型的目标变量的标签替换为与第一系列或者第二系列对应的第二特征量而容易地实现。
第二识别部15F是执行第二技巧识别的处理部。仅作为一个例子,第二技巧识别也能够使用国际公开第2019/116495号所记载的技巧识别技术。
作为一实施方式,第二识别部15F能够使用通过第一技巧识别得到的暂定技巧识别结果、和通过第二计算部15E计算出的第二特征量执行第二技巧识别。该记载并不妨碍在第二技巧识别中使用骨骼信息的时间序列数据、第一特征量。这里,在第二技巧识别的执行时,能够跳过与第一技巧识别重复的部分的处理。例如,能够省略3D骨骼坐标的时间序列数据的分割、基本运动的识别。该情况下,第二识别部15F将与技巧的辞典数据13B所定义的基本技巧中通过第一技巧识别缩小后的技巧候补对应的技巧的基本技巧作为对象,识别作为对象的基本技巧中通过第二计算部15E计算出的第二特征量对应的基本技巧。在此基础上,第二识别部15F通过对作为识别结果得到的基本技巧的时间序列模式、和登记于技巧的辞典数据13B的时间序列模式进行对照,来识别通过第一技巧识别缩小后的技巧候补中由表演者3实际表演的技巧。
图10是表示技巧的辞典数据13B的一个例子的图。在图10中,仅作为一个例子,示出与体操比赛“单杠”相关的技巧的辞典数据13B。如图10所示,在技巧的辞典数据13B能够采用将基本技巧的时间序列模式与每个技巧建立对应关系的数据。并且,在基本技巧能够包含有基本运动以及特征量等。
例如,列举通过第一技巧识别,缩小至属于第一系列的候补1“向前回环转体一周成单手扭臂握”以及候补2“向前回环转体一周成扭臂握”两个技巧的例子。该情况下,在握法的第二特征量为“扭臂握以外”的情况下,在第二技巧识别中,识别出技巧名“向前回环转体一周成单手扭臂握”。另一方面,在握法的第二特征量为“扭臂握”的情况下,在第二技巧识别中,识别出技巧名“向前回环转体一周成扭臂握”。
另外,列举通过第一技巧识别,缩小至属于第二系列的候补1“向前回环”以及候补2“扭臂握回环”两个技巧的例子。该情况下,在握法的第二特征量为“扭臂握以外”的情况下,在第二技巧识别中,识别出技巧名“向前回环”。另一方面,在握法的第二特征量为“扭臂握”的情况下,在第二技巧识别中,识别出技巧名“扭臂握回环”。
另外,列举通过第一技巧识别,缩小至属于第三系列的候补1“背转向后回环”以及候补2“通常的回环”两个技巧的例子。该情况下,在腋下的开闭的第二特征量为“开”的情况下,在第二技巧识别中,识别出技巧名“背转向后回环”。另一方面,在腋下的开闭的第二特征量为“闭”的情况下,在第二技巧识别中,识别出技巧名“向前回环”。
像这样通过第二技巧识别得到的技巧识别结果能够输出到以下那样的输出目的地。例如,能够列举以执行表演者3的技巧、甚至表演的评分例如D得分、E得分的计算的自动评分功能为首的评分支援、训练、娱乐内容等后端的功能、服务等。
<处理的流程>
以下,对本实施例所涉及的技巧识别装置10执行的(1)技巧识别处理进行说明。并且,作为在技巧识别处理的步骤S105中第二特征量的计算所使用的专用算法的例子,例举(2)应用于第一系列的专用算法以及(3)应用于第二系列的第二系列的专用算法进行说明。
(1)技巧识别处理
图11是表示技巧识别处理的顺序的流程图。仅作为一个例子,只要从骨骼检测装置7继续骨骼信息的输出,则能够反复执行技巧识别处理。另外,技巧识别处理既可以是按照帧单位获取骨骼信息的实时处理,也可以是集中获取在恒定期间、或者遍及特定的帧数积蓄的骨骼信息的时间序列数据的批量处理。
如图11所示,若通过获取部15A获取了骨骼信息(步骤S101),则第一计算部15B根据在步骤S101中获取的骨骼信息,计算缩小体操比赛的技巧的第一技巧识别所使用的第一特征量(步骤S102)。
接着,第一识别部15C使用在步骤S101中获取的骨骼信息、和在步骤S102中计算出的第一特征量,执行缩小体操比赛的全部的技巧中由表演者3实际表演的技巧的候补的第一技巧识别(步骤S103)。
然后,选择部15D选择专用于在步骤S103中缩小后的一部分的技巧的识别的专用算法(步骤S104)。接着,第二计算部15E根据在步骤S104中选择的专用算法,计算成为从通过第一技巧识别缩小的技巧候补中区分实际表演的技巧的决定性因素的第二特征量(步骤S105)。
其后,第二识别部15F使用在步骤S103中得到的暂定技巧识别结果、和在步骤S105中计算出的第二特征量,执行识别通过第一技巧识别缩小后的技巧候补中由表演者3实际表演的技巧的第二技巧识别(步骤S106)。
(2)第一系列的专用算法
图12是表示第一系列的专用算法的一个例子的图。该处理与图11所示的步骤S105的处理对应,例如,在步骤S104中选择了第一系列的专用算法的情况下启动。
如图12所示,第二计算部15E识别表演者3的轴手(步骤S301)。例如,能够将手腕的关节位置与单杠的位置的距离较小的一方的手估计为“轴手”。
然后,第二计算部15E基于在第一技巧识别时识别为基本运动“转体一周”的第一特征量中特定种类的特征量,例如身体的旋转方向、身体的旋转量等,估计表演者3的轴手的握法(步骤S302)。
此时,在表演者3的轴手的握法为“扭臂握”的情况下(步骤S303为是),第二计算部15E执行以下那样的处理。即,第二计算部15E基于在表演者3的不为轴手的一方的手腕与单杠的距离在阈值以上的区间的骨骼检测中使用于拟合的手臂的转动信息估计表演者3的不为轴手的一方的手的握法(步骤S304)。
这里,在不为轴手的一方的手的握法为扭臂握的情况下(步骤S305为是),第二计算部15E将第二特征量的握法计算为“扭臂握”(步骤S306)。另一方面,在表演者3的轴手的握法为“扭臂握”的情况下或者在不为轴手的一方的手的握法不为扭臂握的情况下(步骤S303为否或者步骤S305为否),第二计算部15E将第二特征量的握法计算为“扭臂握以外”(步骤S307)。
(3)第二系列的专用算法
图13是表示第二系列的专用算法的一个例子的图。该处理与图11所示的步骤S105的处理对应,例如在步骤S104中选择了第二系列的专用算法的情况下启动。
如图13所示,第二计算部15E判定前面的技巧例如第二技巧识别已执行的技巧识别结果中最近的技巧识别结果是否为阿德勒类的技巧(步骤S501)。此外,在前面的技巧为阿德勒类的技巧的情况下(步骤S501为是),移至步骤S504的处理。
此时,在不为阿德勒类的技巧的情况下(步骤S501为否),第二计算部15E判定前面的技巧是否为倒立转体(步骤S502)。并且,在前面的技巧是倒立转体的情况下(步骤S502为是),第二计算部15E进一步基于前面的技巧的第二技巧识别所使用的第二特征量判定握法是否为“扭臂握”(步骤S503)。
而且,在握法为“扭臂握”的情况下(步骤S503为是),第二计算部15E执行以下那样的处理。即,第二计算部15E判定是否在到识别中的技巧完成为止的中途进行了换握,例如判定是否存在手腕的关节位置与单杠的位置的距离在阈值以上的时刻(步骤S504)。
这里,在前面的技巧是阿德勒类的技巧或者在倒立转体中握法为扭臂握的技巧中,在技巧的中途未进行换握的情况下(步骤S504为否),第二计算部15E将第二特征量的握法计算为“扭臂握”(步骤S505)。
另一方面,在虽然前面的技巧是阿德勒类的技巧或者在倒立转体中握法为扭臂握的技巧但在技巧的中途有换握的情况下、在前面的技巧不是阿德勒类或者倒立转体的情况下、在即使前面的技巧为倒立转体但握法不为扭臂握的情况下,第二计算部15E将第二特征量的握法计算为“扭臂握以外”(步骤S506)。此外,步骤S502为否、步骤S503为否或者步骤S504为是与进入步骤S506的分支对应。
<效果的一方面>
如上述那样,本实施例所涉及的技巧识别装置10基于通过骨骼检测得到的骨骼信息将技巧的辞典所包含的技巧缩小为一部分,并选择专用于缩小后的一部分的技巧的识别的专用算法来识别表演了一部分的技巧中哪个技巧。因此,根据本实施例的技巧识别装置10,能够实现技巧识别的精度提高。进而,也能够实现自动评分、评分支援、训练、娱乐内容等后端的功能、服务的精度提高。
实施例2
另外,虽然到此为止对与公开的装置相关的实施例进行了说明,但本发明除了上述的实施例以外,还可以以各种不同的方式实施。因此,以下,对本发明所包含的其它的实施例进行说明。
<跳过第二特征量计算>
在上述的实施例1中,作为专用算法的一个例子,列举了高精度地计算区分技巧候补的第二特征量之后执行第二技巧识别的例子,但也可以并不一定执行第二特征量的计算。例如,也能够跳过第二特征量的计算执行第二技巧识别。
例如,作为属于第一系列的技巧候补的一个例子,能够列举缩小至根据暂定技巧ID“001”识别的暂定技巧,即候补1“向前回环转体一周成单手扭臂握”以及候补2“向前回环转体一周成扭臂握”两个技巧的例子。该情况下,在进入图12所示的步骤S305为是的分支的情况下,第二识别部15F将通过第一技巧识别缩小的技巧候补中由表演者3实际表演的技巧识别为“向前回环转体一周成扭臂握”。另一方面,在进入步骤S303为否或者步骤S305为否的分支的情况下,第二识别部15F将通过第一技巧识别缩小后的技巧候补中由表演者3实际表演的技巧识别为“向前回环转体一周成单手扭臂握”。这样一来也可以跳过第二特征量的计算。
另外,作为属于第二系列的技巧候补的一个例子,能够列举缩小至根据暂定技巧ID“003”识别的暂定技巧,即候补1“向前回环”以及候补2“扭臂握回环”的例子。该情况下,在进入图13所示的步骤S501为是或者步骤S504为否的分支的情况下,第二识别部15F将通过第一技巧识别缩小后的技巧候补中由表演者3实际表演的技巧识别为“扭臂握回环”。另一方面,在进入步骤S502为否、步骤S503为否或者步骤S504为是的分支的情况下,第二识别部15F将通过第一技巧识别缩小后的技巧候补中由表演者3实际表演的技巧识别为“向前回环”。这样一来也可以跳过第二特征量的计算。
并且,作为属于第三系列的技巧候补的一个例子,能够列举缩小至“背转向后回环”以及“通常的回环”的例子。该情况下,使用将骨骼信息或者骨骼信息的时间序列数据作为输入,并将与技巧名对应的类例如“背转向后回环”或者“通常的回环”作为输出的机器学习模型。这样的机器学习模型的训练使用赋予了“背转向后回环”或者“通常的回环”的正解标签的骨骼信息作为训练数据。例如,在学习阶段,能够将骨骼信息作为机器学习模型的说明变量,将标签作为机器学习模型的目标变量,根据任意的机器学习的算法例如深度学习等对机器学习模型进行训练。由此,能够得到训练完毕的机器学习模型。在推论阶段,将作为拟合结果得到的骨骼信息输入到训练完毕的机器学习模型。这样输入了骨骼信息的机器学习模型输出“背转向后回环”或者“通常的回环”的类。这样一来也可以跳过第二特征量的计算。
此外,这里,虽然列举了对属于第三系列的技巧候补应用使用机器学习模型的专用算法的例子,但也能够对属于第一系列、第二系列的技巧候补应用使用机器学习模型的专用算法。该情况下,能够通过将作为机器学习模型的目标变量的标签替换为与第一系列或者第二系列对应的技巧候补的技巧名来容易地实现。
<分散以及统一>
另外,图示的各装置的各构成要素并不需要一定在物理上如图示那样构成。即,各装置的分散·统一的具体方式并不限定于图示的方式,能够构成为根据各种负荷、使用状况等,将其全部或者一部分以任意的单位在功能上或者物理上进行分散·统一。例如,也可以将获取部15A、第一计算部15B、第一识别部15C、选择部15D、第二计算部15E或者第二识别部15F作为技巧识别装置10的外部装置经由网络连接。另外,也可以由不同的装置分别具有获取部15A、第一计算部15B、第一识别部15C、选择部15D、第二计算部15E或者第二识别部15F,并通过网络连接进行配合,来实现上述的技巧识别装置10的功能。另外,也可以由不同的装置分别具有存储于存储部13的暂定技巧的辞典数据13A或者技巧的辞典数据13B的全部或者一部分,并通过网络连接进行配合,来实现上述的技巧识别装置10的功能。
[技巧识别程序]
另外,能够通过由个人计算机、工作站等计算机执行预先准备的程序来实现在上述的实施例中进行了说明的各种处理。因此,以下,使用图13,对执行具有与实施例1以及实施例2相同的功能的技巧识别程序的计算机的一个例子进行说明。
图13是表示硬件构成例的图。如图13所示,计算机100具有操作部110a、扬声器110b、照相机110c、显示器120、以及通信部130。并且,该计算机100具有CPU150、ROM160、HDD170、以及RAM180。这些110~180的各部经由总线140连接。
如图13所示,在HDD170存储有发挥与在上述的实施例1中示出的获取部15A、第一计算部15B、第一识别部15C、选择部15D、第二计算部15E以及第二识别部15F相同的功能的技巧识别程序170a。该技巧识别程序170a也可以与图4所示的获取部15A、第一计算部15B、第一识别部15C、选择部15D、第二计算部15E以及第二识别部15F的各构成要素相同地进行统一或者分离。即,也可以在HDD170中并不一定储存有上述的实施例1所示的全部的数据,只要在HDD170中储存处理所使用的数据即可。
在这样的环境下,CPU150从HDD170读出技巧识别程序170a之后展开到RAM180。其结果,如图13所示,技巧识别程序170a作为技巧识别进程180a发挥作用。该技巧识别进程180a将从HDD170读出的各种数据展开在RAM180具有的存储区域中分配给技巧识别进程180a的区域,并使用该展开的各种数据执行各种处理。例如,作为技巧识别进程180a执行的处理的一个例子,包含图11~图13所示的处理等。此外,在CPU150中,也可以并不一定上述的实施例1所示的全部的处理部进行动作,只要虚拟地实现与作为执行对象的处理对应的处理部即可。
此外,上述的技巧识别程序170a也可以并不一定从最初起就存储于HDD170或者ROM160。例如,也可以使各程序存储于能够插入计算机100的软盘、所谓的FD、CD-ROM、DVD盘、光磁盘、IC卡等“便携式物理介质”。然后,计算机100从这些便携式物理介质获取各程序并执行。另外,也可以预先使各程序存储于经由公用线路、因特网、LAN、WAN等与计算机100连接的其它的计算机或者服务器装置等,计算机100从这些装置获取各程序并执行。
附图标记说明
1…体操评分支援系统,3…表演者,5…3D激光传感器,7…骨骼检测装置,10…技巧识别装置,11…通信接口部,13…存储部,13A…暂定技巧的辞典数据,13B…技巧的辞典数据,15…控制部,15A…获取部,15B…第一计算部,15C…第一识别部,15D…选择部,15E…第二计算部,15F…第二识别部。
Claims (13)
1.一种技巧识别方法,其特征在于,
计算机执行如下处理:
获取通过骨骼检测得到的骨骼信息;
执行第一技巧识别,该第一技巧识别是基于上述骨骼信息缩小至体操比赛所包含的技巧中一部分的技巧的处理;以及
执行第二技巧识别,该第二技巧识别是根据专用于通过上述第一技巧识别缩小后的一部分的技巧的识别的专用算法识别表演了上述一部分的技巧中哪个技巧的处理。
2.根据权利要求1所述的技巧识别方法,其特征在于,
上述第一技巧识别包含基于第一特征量缩小至上述一部分的技巧的处理,上述第一特征量是与上述体操比赛所包含的技巧相关的特征量中计算精度在阈值以上的特征量,
上述第二技巧识别包含如下处理:根据上述专用算法计算区分通过上述第一技巧识别缩小后的一部分的技巧的第二特征量,并基于计算出的该第二特征量识别表演了上述一部分的技巧中哪个技巧。
3.根据权利要求2所述的技巧识别方法,其特征在于,
上述第二技巧识别包含如下处理:基于上述骨骼信息、和在上述骨骼检测时使用的手肘的弯曲时的转动信息计算握法作为上述第二特征量。
4.根据权利要求2所述的技巧识别方法,其特征在于,
上述第二技巧识别包含如下处理:基于作为上述第二技巧识别已执行的技巧识别结果中最近的技巧识别结果而得到的技巧中的特定运动的有无以及上述特定运动后的换握的有无来计算握法作为上述第二特征量。
5.根据权利要求2所述的技巧识别方法,其特征在于,
上述第二技巧识别包含如下处理:通过将上述骨骼信息输入到执行了将骨骼信息作为说明变量,并将区分通过上述第一技巧识别缩小后的一部分的技巧的第二特征量的标签作为目标变量的机器学习的机器学习模型,计算上述第二特征量。
6.根据权利要求1所述的技巧识别方法,其特征在于,
上述第二技巧识别包含如下处理:通过将上述骨骼信息输入到执行了将骨骼信息作为说明变量,并将通过上述第一技巧识别缩小后的一部分的技巧名的标签作为目标变量的机器学习的机器学习模型,来识别表演了上述一部分的技巧中哪个技巧。
7.一种技巧识别装置,其特征在于,
包含控制部,该控制部执行如下处理:
获取通过骨骼检测得到的骨骼信息;
执行第一技巧识别,该第一技巧识别是基于上述骨骼信息缩小至体操比赛所包含的技巧中一部分的技巧的处理;以及
执行第二技巧识别,该第二技巧识别是根据专用于通过上述第一技巧识别缩小后的一部分的技巧的识别的专用算法识别表演了上述一部分的技巧中哪个技巧的处理。
8.根据权利要求7所述的技巧识别装置,其特征在于,
上述第一技巧识别包含基于第一特征量缩小至上述一部分的技巧的处理,上述第一特征量是与上述体操比赛所包含的技巧相关的特征量中计算精度在阈值以上的特征量,
上述第二技巧识别包含如下处理:根据上述专用算法计算区分通过上述第一技巧识别缩小后的一部分的技巧的第二特征量,并基于计算出的该第二特征量识别表演了上述一部分的技巧中哪个技巧。
9.根据权利要求8所述的技巧识别装置,其特征在于,
上述第二技巧识别包含如下处理:基于上述骨骼信息、和在上述骨骼检测时使用的手肘的弯曲时的转动信息计算握法作为上述第二特征量。
10.根据权利要求8所述的技巧识别装置,其特征在于,
上述第二技巧识别包含如下处理:基于作为上述第二技巧识别已执行的技巧识别结果中最近的技巧识别结果而得到的技巧中的特定运动的有无以及上述特定运动后的换握的有无来计算握法作为上述第二特征量。
11.根据权利要求8所述的技巧识别装置,其特征在于,
上述第二技巧识别包含如下处理:通过将上述骨骼信息输入到执行了将骨骼信息作为说明变量,并将区分通过上述第一技巧识别缩小后的一部分的技巧的第二特征量的标签作为目标变量的机器学习的机器学习模型,计算上述第二特征量。
12.根据权利要求7所述的技巧识别装置,其特征在于,
上述第二技巧识别包含如下处理:通过将上述骨骼信息输入到执行了将骨骼信息作为说明变量,并将通过上述第一技巧识别缩小后的一部分的技巧名的标签作为目标变量的机器学习的机器学习模型,来识别表演了上述一部分的技巧中哪个技巧。
13.一种体操评分支援系统,其特征在于,具有:
传感器装置,获取深度图像;以及
技巧识别装置,具有:骨骼检测部,执行对上述深度图像的骨骼检测;获取部,获取通过上述骨骼检测得到的骨骼信息;第一识别部,执行第一技巧识别,该第一技巧识别是基于上述骨骼信息缩小至体操比赛所包含的技巧中一部分的技巧的处理;第二识别部,执行第二技巧识别,该第二技巧识别是根据专用于通过上述第一技巧识别缩小后的一部分的技巧的识别的专用算法识别表演了上述一部分的技巧中哪个技巧的处理;以及评分部,对通过上述第二技巧识别得到的技巧进行评分。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2021/014248 WO2022208859A1 (ja) | 2021-04-01 | 2021-04-01 | 技認識方法、技認識装置および体操採点支援システム |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116963808A true CN116963808A (zh) | 2023-10-27 |
Family
ID=83458258
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202180094916.6A Pending CN116963808A (zh) | 2021-04-01 | 2021-04-01 | 技巧识别方法、技巧识别装置以及体操评分支援系统 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20230405433A1 (zh) |
EP (1) | EP4316614A4 (zh) |
JP (1) | JPWO2022208859A1 (zh) |
CN (1) | CN116963808A (zh) |
WO (1) | WO2022208859A1 (zh) |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018069981A1 (ja) * | 2016-10-11 | 2018-04-19 | 富士通株式会社 | 運動認識装置、運動認識プログラムおよび運動認識方法 |
JP2018068516A (ja) * | 2016-10-26 | 2018-05-10 | 国立大学法人名古屋大学 | 運動動作評価システム |
JP6943294B2 (ja) | 2017-12-14 | 2021-09-29 | 富士通株式会社 | 技認識プログラム、技認識方法および技認識システム |
JP6915701B2 (ja) * | 2017-12-27 | 2021-08-04 | 富士通株式会社 | 抽出プログラム、抽出方法および情報処理装置 |
JP7146247B2 (ja) | 2018-09-03 | 2022-10-04 | 国立大学法人 東京大学 | 動作認識方法及び装置 |
JP7205201B2 (ja) | 2018-12-05 | 2023-01-17 | 富士通株式会社 | 表示方法、表示プログラムおよび情報処理装置 |
-
2021
- 2021-04-01 EP EP21935021.2A patent/EP4316614A4/en not_active Withdrawn
- 2021-04-01 CN CN202180094916.6A patent/CN116963808A/zh active Pending
- 2021-04-01 JP JP2023510126A patent/JPWO2022208859A1/ja active Pending
- 2021-04-01 WO PCT/JP2021/014248 patent/WO2022208859A1/ja active Application Filing
-
2023
- 2023-08-28 US US18/456,990 patent/US20230405433A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
JPWO2022208859A1 (zh) | 2022-10-06 |
WO2022208859A1 (ja) | 2022-10-06 |
EP4316614A1 (en) | 2024-02-07 |
US20230405433A1 (en) | 2023-12-21 |
EP4316614A4 (en) | 2024-05-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Chaudhari et al. | Yog-guru: Real-time yoga pose correction system using deep learning methods | |
KR102514697B1 (ko) | 골프 동작 분석 장치 및 방법 | |
JP7235133B2 (ja) | 運動認識方法、運動認識プログラムおよび情報処理装置 | |
JP6943294B2 (ja) | 技認識プログラム、技認識方法および技認識システム | |
CN106572816A (zh) | 步行解析系统和步行解析程序 | |
CN113398556B (zh) | 俯卧撑识别方法及系统 | |
US20210286983A1 (en) | Estimation method, and computer-readable recording medium recording estimation program | |
JP7008342B2 (ja) | 運動評価システム | |
JP2020174910A (ja) | 運動支援システム | |
CN113409651B (zh) | 直播健身方法、系统、电子设备、存储介质 | |
US20220222975A1 (en) | Motion recognition method, non-transitory computer-readable recording medium and information processing apparatus | |
Trejo et al. | Recognition of Yoga poses through an interactive system with Kinect based on confidence value | |
Bandera et al. | A new paradigm for autonomous human motion description and evaluation: Application to the Get Up & Go test use case | |
CN111353345B (zh) | 提供训练反馈的方法、装置、系统、电子设备、存储介质 | |
JP6525180B1 (ja) | 対象数特定装置 | |
CN116963808A (zh) | 技巧识别方法、技巧识别装置以及体操评分支援系统 | |
Sharma et al. | To Design and D | |
CN110781857B (zh) | 运动监控方法、装置、系统和存储介质 | |
JP2021099666A (ja) | 学習モデルの生成方法 | |
US20220301352A1 (en) | Motion recognition method, non-transitory computer-readable storage medium for storing motion recognition program, and information processing device | |
CN117037279B (zh) | 动作检测方法、装置、设备、存储介质及异构芯片 | |
JP2019197278A (ja) | 画像処理装置、画像処理装置の制御方法およびプログラム | |
WO2024111430A1 (ja) | 処理装置、処理システム、学習済みモデルの構築方法及びプログラム | |
WO2023188217A1 (ja) | 情報処理プログラム、情報処理方法、および情報処理装置 | |
JP2024087325A (ja) | 行動解析結果出力方法、行動解析結果出力プログラム、および行動解析結果出力システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |