CN115554685A - 基于视觉的计分方法、电子设备、存储介质及程序产品 - Google Patents
基于视觉的计分方法、电子设备、存储介质及程序产品 Download PDFInfo
- Publication number
- CN115554685A CN115554685A CN202210934520.4A CN202210934520A CN115554685A CN 115554685 A CN115554685 A CN 115554685A CN 202210934520 A CN202210934520 A CN 202210934520A CN 115554685 A CN115554685 A CN 115554685A
- Authority
- CN
- China
- Prior art keywords
- field
- information
- marker
- motion
- scoring
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000013077 scoring method Methods 0.000 title claims abstract description 37
- 238000003860 storage Methods 0.000 title claims abstract description 25
- 239000003550 marker Substances 0.000 claims abstract description 163
- 238000000034 method Methods 0.000 claims abstract description 29
- 230000006399 behavior Effects 0.000 claims description 52
- 230000009471 action Effects 0.000 claims description 44
- 238000004590 computer program Methods 0.000 claims description 23
- 230000000386 athletic effect Effects 0.000 claims description 16
- 238000012935 Averaging Methods 0.000 claims description 6
- 230000000875 corresponding effect Effects 0.000 description 44
- 238000012545 processing Methods 0.000 description 11
- 238000004422 calculation algorithm Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 6
- 238000010801 machine learning Methods 0.000 description 6
- 238000013473 artificial intelligence Methods 0.000 description 5
- 230000036541 health Effects 0.000 description 5
- 238000013145 classification model Methods 0.000 description 4
- 238000001514 detection method Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 230000003796 beauty Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 238000009529 body temperature measurement Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 210000003746 feather Anatomy 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63B—APPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
- A63B71/00—Games or sports accessories not covered in groups A63B1/00 - A63B69/00
- A63B71/06—Indicating or scoring devices for games or players, or for other sports activities
- A63B71/0619—Displays, user interfaces and indicating devices, specially adapted for sport equipment, e.g. display mounted on treadmills
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63B—APPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
- A63B71/00—Games or sports accessories not covered in groups A63B1/00 - A63B69/00
- A63B71/06—Indicating or scoring devices for games or players, or for other sports activities
- A63B71/0619—Displays, user interfaces and indicating devices, specially adapted for sport equipment, e.g. display mounted on treadmills
- A63B71/0669—Score-keepers or score display devices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
- G06V20/42—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items of sport video content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
- G06V40/23—Recognition of whole body movements, e.g. for sport training
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63B—APPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
- A63B71/00—Games or sports accessories not covered in groups A63B1/00 - A63B69/00
- A63B71/06—Indicating or scoring devices for games or players, or for other sports activities
- A63B71/0619—Displays, user interfaces and indicating devices, specially adapted for sport equipment, e.g. display mounted on treadmills
- A63B2071/0647—Visualisation of executed movements
Landscapes
- Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Physical Education & Sports Medicine (AREA)
- Theoretical Computer Science (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Psychiatry (AREA)
- Social Psychology (AREA)
- Image Analysis (AREA)
Abstract
本申请实施例提供一种基于视觉的计分方法、电子设备、存储介质及程序产品。方法包括:获取运动场图像;对运动场图像进行识别,以获得与位于运动场地上的运动员的肢体相关的肢体信息和与运动标示物相关的标示物信息,运动标示物是运动员运动时操作的对象;获取与运动场地相关的场地信息;按照目标计分规则,基于场地信息、肢体信息和标示物信息,确定运动员的行为类型,行为类型包括以下一项或多项:为己方扣分行为、为己方加分行为、为对方加分行为、无计分行为;基于行为类型进行计分。这种方案可以实现智能化、自动化的计分,计分准确度高且效率高。并且,这种方案可以有效节省人工计分的时间成本,节省人力工作。
Description
技术领域
本申请涉及计算机视觉技术领域,更具体地涉及一种基于视觉的计分方法、电子设备、存储介质及计算机程序产品。
背景技术
在运动领域,通常需要对比赛双方的得分进行计分。在现有技术中,计分都是直接由裁判对运动员的操作进行主观的分析、判断和计数,再将人工得分输入计算机,借由计算机进行总结并完成最终的结果呈现。
现有的计分方式不够智能,基本完全依赖人工,容易出现人为失误,并且效率也非常低。
发明内容
考虑到上述问题而提出了本申请。本申请提供了一种基于视觉的计分方法、电子设备、存储介质及计算机程序产品。
根据本申请一方面,提供了一种基于视觉的计分方法,包括:获取运动场图像;对运动场图像进行识别,以获得与位于运动场地上的运动员的肢体相关的肢体信息和与运动标示物相关的标示物信息,运动标示物是运动员运动时操作的对象;获取与运动场地相关的场地信息;按照目标计分规则,基于场地信息、肢体信息和标示物信息,确定运动员的行为类型,行为类型包括以下一项或多项:为己方扣分行为、为己方加分行为、为对方加分行为、无计分行为;基于行为类型进行计分。
示例性地,在按照目标计分规则,基于场地信息、肢体信息和标示物信息,确定运动员的行为类型之前,方法还包括:基于在运动场图像中识别到的目标人员的规则选择动作,确定对应的计分规则,作为目标计分规则,其中,不同的计分规则与不同的规则选择动作相对应;或者,基于运动场图像、场地信息、肢体信息和标示物信息中的一项或多项,识别运动场地的类型,并至少基于运动场地的类型,确定对应的计分规则,作为目标计分规则;或者,基于目标人员输入的规则指令,确定目标计分规则。
示例性地,至少基于运动场地的类型,确定对应的计分规则包括:基于肢体信息确定运动场地上的人数;基于运动场地的类型以及运动场地上的人数,确定对应的计分规则。
示例性地,场地信息包括运动场地所占据空间的三维空间坐标,标示物信息包括运动标示物的三维空间坐标,目标计分规则包括出界规则,出界规则用于规定运动场地的第一边界在运动场地所占据空间中的相对位置,第一边界是区分运动标示物是否出界的边界,按照目标计分规则,基于场地信息、肢体信息和标示物信息,确定运动员的行为类型包括:按照出界规则,确定第一边界在运动场地所占据空间中的相对位置;基于场地信息和第一边界的相对位置,确定第一边界的三维空间坐标;基于标示物信息和第一边界的三维空间坐标,判断运动标示物是否位于第一边界外部;如果运动标示物位于第一边界外部,则判断运动标示物是否位于第一边界之外的第二边界外部;如果运动标示物位于第二边界外部,则确定当前发球的运动员执行无计分行为,如果运动标示物位于第一边界外部且位于第二边界内部,则确定当前发球的运动员执行出界违例行为,为己方扣分行为或为对方加分行为包括出界违例行为。
示例性地,标示物信息包括运动标示物的移动轨迹,目标计分规则包括触地规则,触地规则用于规定触地的次数阈值和时间阈值,按照目标计分规则,基于场地信息、肢体信息和标示物信息,确定运动员的行为类型包括:基于运动标示物的移动轨迹,判断运动标示物是否触地;如果运动标示物在时间阈值内的触地次数超过次数阈值,则确定当前发球的运动员执行触地违例行为,为己方扣分行为或为对方加分行为包括触地违例行为。
示例性地,场地信息包括运动场地的位置信息,获取与运动场地相关的场地信息包括:通过场地识别模型识别运动场图像中运动场地所在的位置,以获得第一场地识别结果和第一场地识别结果的置信度;基于运动场图像中的边界线的反光情况识别运动场地所在的位置,以获得第二场地识别结果和第二场地识别结果的置信度;选取第一场地识别结果和第二场地识别结果中置信度高的识别结果,作为场地信息中的位置信息。
示例性地,运动场图像包括在第一光照条件下采集的第一数目的运动场图像和在第二光照条件下采集的第二数目的运动场图像,第二光照条件中发光光源的光强度大于第二光照条件中发光光源的光强度,其中,基于运动场图像中的边界线的反光情况识别运动场地所在的位置,以获得第二场地识别结果和第二场地识别结果的置信度包括:对于每个像素,将该像素在第一数目的运动场图像中各自的像素值求平均,获得第一平均图像;对于每个像素,将该像素在第二数目的运动场图像中各自的像素值求平均,获得第二平均图像;对于每个像素,计算该像素在第二平均图像中的像素值与在第一平均图像中的像素值之差,获得每个像素所对应的像素值差值,反光情况采用像素值差值表示;确定所对应的像素值差值高于差值阈值的像素所在的位置为运动场地的边界线所在的位置,获得第二场地识别结果;将边界线所在的位置处的像素所对应的像素差值之和与边界线所在的位置处的像素的数目相比,获得第二场地识别结果的置信度。
示例性地,标示物信息包括运动标示物的移动轨迹,按照目标计分规则,基于场地信息、肢体信息和标示物信息,确定运动员的行为类型包括:当基于运动标示物的移动轨迹确定运动标示物触地时,按照目标计分规则,基于场地信息、肢体信息和标示物信息,确定运动员的行为类型。
示例性地,运动场图像包括多个图像采集装置各自采集的运动场图像,对运动场图像进行识别,以获得与位于运动场地上的运动员的肢体相关的肢体信息和与运动标示物相关的标示物信息,包括:对多个图像采集装置各自采集的运动场图像进行识别,以获得与每个图像采集装置相对应的肢体识别结果及肢体识别结果的置信度以及标示物识别结果及标示物识别结果的置信度;从多个图像采集装置各自对应的肢体识别结果中选择置信度最高的肢体识别结果,作为肢体信息;从多个图像采集装置各自对应的标示物识别结果中选择置信度最高的标示物识别结果,作为标示物信息;和/或,获取与运动场地相关的场地信息包括:对多个图像采集装置各自采集的运动场图像进行识别,以获得与每个图像采集装置相对应的场地识别结果;对多个图像采集装置各自对应的场地识别结果进行拼接,或者从多个图像采集装置各自对应的场地识别结果中选择置信度最高的场地识别结果,作为场地信息。
根据本申请另一方面,提供了一种电子设备,包括处理器和存储器,其中,所述存储器中存储有计算机程序指令,所述计算机程序指令被所述处理器运行时用于执行上述基于视觉的计分方法。
根据本申请另一方面,提供了一种存储介质,在所述存储介质上存储了程序指令,所述程序指令在运行时用于执行上述基于视觉的计分方法。
根据本申请另一方面,提供了一种计算机程序产品,所述计算机程序产品包括计算机程序,所述计算机程序在运行时用于执行上述基于视觉的计分方法。
根据本申请实施例的基于视觉的计分方法、电子设备、存储介质及计算机程序产品,通过采集运动场图像来识别运动员肢体和运动标示物的信息,并将这些信息与运动场地的信息识别来实现对运动员的加分或扣分等计分操作。这种方案可以实现智能化、自动化的计分,计分准确度高且效率高。并且,这种方案可以有效节省人工计分的时间成本,节省人力工作。
附图说明
通过结合附图对本申请实施例进行更详细的描述,本申请的上述以及其它目的、特征和优势将变得更加明显。附图用来提供对本申请实施例的进一步理解,并且构成说明书的一部分,与本申请实施例一起用于解释本申请,并不构成对本申请的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1示出用于实现根据本申请实施例的基于视觉的计分方法和装置的示例电子设备的示意性框图;
图2示出根据本申请一个实施例的基于视觉的计分方法的示意性流程图;
图3示出根据本申请一个实施例的羽毛球场地的边界线的示意图;
图4示出根据本申请一个实施例的基于视觉的计分装置的示意性框图;
图5示出根据本申请一个实施例的电子设备的示意性框图。
具体实施方式
近年来,基于人工智能的计算机视觉、深度学习、机器学习、图像处理、图像识别等技术研究取得了重要进展。人工智能(Artificial Intelligence,AI)是研究、开发用于模拟、延伸人的智能的理论、方法、技术及应用系统的新兴科学技术。人工智能学科是一门综合性学科,涉及芯片、大数据、云计算、物联网、分布式存储、深度学习、机器学习、神经网络等诸多技术种类。计算机视觉作为人工智能的一个重要分支,具体是让机器识别世界,计算机视觉技术通常包括人脸识别、活体检测、指纹识别与防伪验证、生物特征识别、人脸检测、行人检测、目标检测、行人识别、图像处理、图像识别、图像语义理解、图像检索、文字识别、视频处理、视频内容识别、三维重建、虚拟现实、增强现实、同步定位与地图构建(SLAM)、计算摄影、机器人导航与定位等技术。随着人工智能技术的研究和进步,该项技术在众多领域展开了应用,例如安全防控、城市管理、交通管理、楼宇管理、园区管理、人脸通行、人脸考勤、物流管理、仓储管理、机器人、智能营销、计算摄影、手机影像、云服务、智能家居、穿戴设备、无人驾驶、自动驾驶、智能医疗、人脸支付、人脸解锁、指纹解锁、人证核验、智慧屏、智能电视、摄像机、移动互联网、网络直播、美颜、美妆、医疗美容、智能测温等领域。
为了使得本申请的目的、技术方案和优点更为明显,下面将参照附图详细描述根据本申请的示例实施例。显然,所描述的实施例仅仅是本申请的一部分实施例,而不是本申请的全部实施例,应理解,本申请不受这里描述的示例实施例的限制。基于本申请中描述的本申请实施例,本领域技术人员在没有付出创造性劳动的情况下所得到的所有其它实施例都应落入本申请的保护范围之内。
为了至少部分地解决上述技术问题,本申请实施例提供了一种基于视觉的计分方法、电子设备、存储介质及计算机程序产品。根据本申请实施例的基于视觉的计分方法,可以实现智能化、自动化的计分,可以节省人力,计分准确度和效率也都比较高。根据本申请实施例的基于视觉的计分方法可以应用于任何需要进行计分的领域,包括但不限于羽毛球、网球、乒乓球、足球、篮球等运动领域。
首先,参照图1来描述用于实现根据本申请实施例的基于视觉的计分方法和装置的示例电子设备100。
如图1所示,电子设备100包括一个或多个处理器102、一个或多个存储装置104。可选地,电子设备100还可以包括输入装置106、输出装置108、以及图像拍摄装置110,这些组件通过总线系统112和/或其它形式的连接机构(未示出)互连。应当注意,图1所示的电子设备100的组件和结构只是示例性的,而非限制性的,根据需要,所述电子设备也可以具有其他组件和结构。
所述处理器102可以采用数字信号处理器(DSP)、现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、微处理器中的至少一种硬件形式来实现,所述处理器102可以是中央处理单元(CPU)、图像处理器(GPU)、专用的集成电路(ASIC)或者具有数据处理能力和/或指令执行能力的其它形式的处理单元中的一种或几种的组合,并且可以控制所述电子设备100中的其它组件以执行期望的功能。
所述存储装置104可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器102可以运行所述程序指令,以实现下文所述的本申请实施例中(由处理器实现)的客户端功能以及/或者其它期望的功能。在所述计算机可读存储介质中还可以存储各种应用程序和各种数据,例如所述应用程序使用和/或产生的各种数据等。
所述输入装置106可以是用户用来输入指令的装置,并且可以包括键盘、鼠标、麦克风和触摸屏等中的一个或多个。
所述输出装置108可以向外部(例如用户)输出各种信息(例如图像和/或声音),并且可以包括显示器、扬声器等中的一个或多个。可选地,所述输入装置106和所述输出装置108可以集成在一起,采用同一交互装置(例如触摸屏)实现。
所述图像拍摄装置110可以采集图像,并且将所采集的图像存储在所述存储装置104中以供其它组件使用。图像拍摄装置110可以是单独的相机或移动终端中的摄像头等。应当理解,图像拍摄装置110仅是示例,电子设备100可以不包括图像拍摄装置110。在这种情况下,可以利用其他具有图像采集能力的器件采集图像,并将采集的图像发送给电子设备100。
示例性地,用于实现根据本申请实施例的基于视觉的计分方法和装置的示例电子设备可以在诸如个人计算机、终端设备、考勤机、面板机、相机或远程服务器等的设备上实现。
下面,将参考图2描述根据本申请实施例的基于视觉的计分方法。图2示出根据本申请一个实施例的基于视觉的计分方法200的示意性流程图。如图2所示,基于视觉的计分方法200包括步骤S210、S220、S230和S240。
在步骤S210,获取运动场图像。
示例性地,运动场图像可以是针对运动场采集的图像。运动场可以包括运动场地、运动员和运动标示物等对象。运动场地可以是任何类型的运动场地,包括但不限于羽毛球场、网球场、乒乓球场、足球场、篮球场等。运动标示物也可以称为运动介质,即运动员运动时操作的对象。运动标示物可以是诸如羽毛球、网球、乒乓球、足球、篮球等。
运动场图像可以是静态图像,也可以是动态视频中的任一视频帧。运动场图像可以是图像采集装置(例如相机中的图像传感器)采集到的原始图像,也可以是对原始图像进行预处理(诸如数字化、归一化、平滑等)之后获得的图像。需注意,对原始图像的预处理可以包括从图像采集装置采集到的原始图像中提取包含目标运动区域的子图像进而获得运动场图像的操作。目标运动区域可以是诸如至少包含运动场地在内的区域。
步骤S210获取的运动场图像可以是一个或多个。通过多个运动场图像可以实现对肢体和/或运动标示物的移动轨迹的跟踪。此外,步骤S210获取的运动场图像可以来自单个图像采集装置,也可以来自多个图像采集装置。
在步骤S220,对运动场图像进行识别,以获得与位于运动场地上的运动员的肢体相关的肢体信息和与运动标示物相关的标示物信息,运动标示物是运动员运动时操作的对象。
在步骤S230,获取与运动场地相关的场地信息。
在一个示例中,场地信息可以预先确定。在运动过程中,运动场地通常不变,因此可以仅在初次采集到运动场图像时进行运动场地的识别,也可以间断性地基于运动场图像进行一次运动场地识别。当然,可选地,可以在每次采集到运动场图像时均进行运动场地的识别。另外,可选地,运动场地的场地信息也可以预先在计分系统中设置好。
步骤S220和步骤S230的执行顺序可以是任意的,任一者可以在另一者之前、之后或者二者可以同时执行。在一个示例中,可以通过对运动场图像进行识别的方式获取与运动场地相关的场地信息,这种情况下可以可选地同步执行步骤S220和S230。此外,在通过对运动场图像进行识别的方式获取场地信息的情况下,步骤S230采用的识别模型与步骤S220采用的识别模型可以可选地是同一识别模型,此时两个步骤是同步的,将运动场图像输入同一识别模型,可以获得模型输出的场地信息、肢体信息和标示物信息。
在一个示例中,可以对运动场图像进行场地识别、肢体识别和运动标示物识别,以获得与运动场地相关的场地信息、与运动员的肢体相关的肢体信息和与运动标示物相关的标示物信息。
示例性地,场地信息可以包括运动场地的关键点的坐标。可选地,场地信息还可以包括运动场地的相邻关键点之间的距离。运动场地的关键点的坐标可以是三维空间坐标。在通过对运动场图像进行场地识别的方式获取场地信息的示例中,场地识别算法可以包含将从运动场图像中识别出的运动场地的关键点的坐标从二维转换为三维的算法部分。可选地,运动场地的关键点可以包含位于运动场地的边界线上的点和/或位于运动场地的边界线内部的点。肢体识别获得的肢体信息可以包括人体上的关键点的坐标。人体上的关键点的坐标可以是三维空间坐标。即,肢体识别算法可以包含将从运动场图像中识别出的人体的关键点的坐标从二维转换为三维的算法部分。运动标示物识别获得的标示物信息可以包括运动标示物的关键点的坐标。运动标示物的关键点的坐标可以是三维空间坐标。即,运动标示物识别算法可以包含将从运动场图像中识别出的运动标示物的关键点的坐标从二维转换为三维的算法部分。
本文描述的关键点可以包括常规的较为稀疏的关键点和/或稠密关键点。稀疏关键点可以是在例如几个、几十或几百等数量级上的关键点,稠密关键点可以是在例如几千、几万甚至更高数量级上的关键点。
可选地,场地识别、肢体识别和运动标示物识别可以分开实现,即各自采用不同的算法模型实现。例如,场地识别可以采用场地识别模型或者基于反光的计算方式来进行识别。在采用场地识别模型进行识别的情况下,可以将运动场图像输入场地识别模型,获得由场地识别模型输出的场地信息。肢体识别可以采用任何现有或将来可能出现的人体姿态识别模型进行识别。通过人体姿态识别模型可以识别人体上的关键点的坐标。可以将运动场图像输入人体姿态识别模型,获得人体姿态识别模型输出的肢体信息。运动标示物可以通过运动标示物识别模型进行识别。可以将运动场图像输入运动标示物识别模型,获得运动标示物识别模型输出的标示物信息。
可选地,场地识别、肢体识别和运动标示物识别还可以采用同一机器学习模型进行识别。即,可以将运动场图像输入机器学习模型,机器学习模型可以同步输出场地信息、肢体信息和标示物信息。
上述场地识别模型、人体姿态识别模型、运动标示物识别模型以及统一的机器学习模型均可以是任何合适的神经网络模型,包括但不限于卷积神经网络、循环神经网络、深度神经网络等等。
在步骤S230,按照目标计分规则,基于场地信息、肢体信息和标示物信息,确定运动员的行为类型,行为类型包括以下一项或多项:为己方扣分行为、为己方加分行为、为对方加分行为、无计分行为。
每种体育运动可以具有自己的计分规则。不同的计分规则导致对运动员的行为产生有针对性的判定。例如,同样的行为在不同的体育运动中可能产生为己方加分和为对方加分这种截然不同的结果。因此,可以按照适用于当前体育运动的目标计分规则来判断运动员的行为类型属于哪种。在任一种体育运动中,在计分规则已知的情况下,可以通过运动员的位置、动作、移动轨迹等肢体信息,运动标示物的位置、移动轨迹等标示物信息,并结合运动场地的边界线的位置等场地信息,来判定运动员是能够加分,还是需要扣分,还是给对方加分等等。
目标计分规则可以是采用通用标准的,例如某种国际上定义的通用标准,也可以是由用户自定义的。无论哪种,均可以通过下文将要描述的示例来确定。
基于场地信息、肢体信息和运动标示物信息可以确定运动员的行为类型,进而决定是为己方扣分,为己方加分,还是为对方加分。例如,可以判断是否发生运动标示物出界、运动员出界等违例甚至违规行为,如果发生,则可以按照特定的计分规则为己方扣分或为对方加分等。反之,可以判断运动员是否发生加分行为,进而给己方运动员加分。此外,还可能出现诸如运动标示物超出边界太远等行为导致计分无效的情况,此时可以不进行计分。可以理解,有些体育运动可能不包含扣分情况,例如如果己方运动员违例或违规,并不会对己方运动员进行扣分,而是给对方运动员加分或者给予对方运动员先发球的机会,这种情况下,行为类型可以不包含“为己方扣分行为”这一类型。因此,上述多个行为类型可以根据需要组合,不同体育运动所对应的所有行为类型可能相同,也可能不同。
在步骤S240,基于行为类型进行计分。
与上述为己方扣分行为、为己方加分行为、为对方加分行为、无计分行为这几种行为类型相对应地,可以分别执行为己方扣分、为己方加分、为对方加分、不计分等操作。
根据本申请实施例的基于视觉的计分方法,通过采集运动场图像来识别运动员肢体和运动标示物的信息,并将这些信息与运动场地的信息识别来实现对运动员的加分或扣分等计分操作。这种方案可以实现智能化、自动化的计分,计分准确度高且效率高。并且,这种方案可以有效节省人工计分的时间成本,节省人力工作。
示例性地,根据本申请实施例的基于视觉的计分方法可以在具有存储器和处理器的设备、装置或者系统中实现。
根据本申请实施例的基于视觉的计分方法可以部署在图像采集端处,例如,可以部署在具有图像采集功能的个人终端或服务器端处。
替代地,根据本申请实施例的基于视觉的计分方法还可以分布地部署在服务器端(或云端)和个人终端处。例如,可以在客户端采集运动场图像,客户端将采集的图像传送给服务器端(或云端),由服务器端(或云端)进行基于视觉的计分。
根据本申请实施例,在按照目标计分规则,基于场地信息、肢体信息和标示物信息,确定运动员的行为类型之前,方法还包括:基于在运动场图像中识别到的目标人员的规则选择动作,确定对应的计分规则,作为目标计分规则,其中,不同的计分规则与不同的规则选择动作相对应;或者,基于运动场图像、场地信息、肢体信息和标示物信息中的一项或多项,识别运动场地的类型,并至少基于运动场地的类型,确定对应的计分规则,作为目标计分规则;或者,基于目标人员输入的规则指令,确定目标计分规则。
本文所述的目标人员可以是参与比赛的运动员、裁判员或者其他任意特定人员等。
可选地,可以预先定义与不同的计分规则所对应的各种不同的规则选择动作。例如,假设共有三种计分规则,分别对应羽毛球、网球、乒乓球。当目标人员伸出一根手指时,代表选择羽毛球对应的计分规则,当目标人员伸出两根手指时,代表选择网球对应的计分规则,当目标人员伸出三根手指时,代表选择乒乓球对应的计分规则。因此,通过识别目标人员伸出手指的数量,可以选择匹配的计分规则。可以基于运动场图像对目标人员的规则选择动作进行识别。当目标人员为运动员本身时,可以基于步骤S220中获取的运动员的肢体信息确定规则选择动作。当目标人员为运动员以外的人员时,可以针对该目标人员进行与运动员类似的肢体识别,进而确定目标人员执行的动作是哪种规则选择动作。
可选地,还可以通过识别运动场地的类型来确定对应的计分规则。示例性地,可以将运动场图像、场地信息、肢体信息和标示物信息中的一项或多项输入图像分类模型中,由图像分类模型输出运动场地的类型。运动场地的类型是指运动场地属于哪种运动,例如是羽毛球场,还是网球场,还是乒乓球场等。在一个示例中,场地信息可以包括运动场地的场地大小。场地识别除了识别运动场地的坐标以外,还可以识别其大小。此时,可以基于场地大小确定运动场地的类型。可选地,可以结合运动场地的场地大小以及运动场图像确定运动场地的类型。例如,可以将运动场图像和场地大小一起输入图像分类模型中,由图像分类模型输出运动场地的类型。由于很多球类的运动场地非常相似,且图像采集装置采集不同运动场地的角度、距离各有不同,采集情况较为复杂,因此单纯基于运动场图像进行图像分类的准确度不够高,采用场地大小辅助运动场图像进行图像分类则可以大大提高图像分类的准确度。当然,识别运动场地的类型时,考虑肢体信息和/或标示物信息,识别也会比较准确。
可选地,还可以由目标人员直接输入规则指令,以确定目标计分规则。可选地,规则指令可以是用于描述计分规则的内容的指令,即目标人员可以直接输入计分规则的内容。可选地,规则指令也可以是从特定数目的计分规则中选择其中之一作为目标计分规则的选择指令。
在某些情况下,计分规则仅与运动场地的类型相关,例如,足球运动、篮球运动等。此时,可以直接基于运动场地的类型,确定对应的计分规则。在某些情况下,计分规则与运动场地的类型以及其他附加信息相关。例如,羽毛球运动中,双打和单打的计分规则不同。此时,可以基于运动场地的类型以及诸如人数的附加信息来确定对应的计分规则。
通过以上方式,可以灵活地、自动化地确定与当前运动相对应的计分规则,进而可以按照计分规则判断是否扣分或加分。这种方式可以进一步提高计分方法的智能化程度。
根据本申请实施例,至少基于运动场地的类型,确定对应的计分规则包括:获取与运动场地上的人数相关的人数信息;基于运动场地的类型以及人数信息,确定对应的计分规则。
参照上述示例,在诸如羽毛球等运动中,计分规则除与运动场的类型相关以外,还可以与诸如人数的附加信息相关。这种情况下,可以确定运动场上的人数,并基于人数确定适用的计分规则。运动场上的人数可以通过肢体识别来确定。例如,可以由肢体识别模型在输出人体的关键点的坐标的同时,还可以输出人数信息。当然,可选地,可以在肢体识别模型输出人体的关键点的坐标之后,进一步通过识别出的人体的关键点的数量和/或位置确定运动场上的人数。即,可以基于肢体信息确定人数信息。
基于运动场的类型及运动场上的人数确定计分规则的方案自动化、智能化程度较高,适用性较广,计分规则的判断也较为准确。
根据本申请实施例,场地信息包括运动场地所占据空间的三维空间坐标,标示物信息包括运动标示物的三维空间坐标,目标计分规则包括出界规则,出界规则用于规定运动场地的第一边界在运动场地所占据空间中的相对位置,第一边界是区分运动标示物是否出界的边界,按照目标计分规则,基于场地信息、肢体信息和标示物信息,确定运动员的行为类型包括:按照出界规则,确定第一边界在运动场地所占据空间中的相对位置;基于场地信息和第一边界的相对位置,确定第一边界的三维空间坐标;基于标示物信息和第一边界的三维空间坐标,判断运动标示物是否位于第一边界外部;如果运动标示物位于第一边界外部,则判断运动标示物是否位于第一边界之外的第二边界外部;如果运动标示物位于第二边界外部,则确定当前发球的运动员执行无计分行为,如果运动标示物位于第一边界外部且位于第二边界内部,则确定当前发球的运动员执行出界违例行为,为己方扣分行为或为对方加分行为包括出界违例行为。
通过场地识别、肢体识别和运动标示物识别出的各对象的坐标均可以是三维空间坐标。上文已经描述了获取三维空间坐标的方式,此处不赘述。可以理解,运动场地所占据空间是一个立体空间,其可以是诸如一种长方体。运动场地所占据空间的三维空间坐标可以通过运动场地中的各关键点的坐标表示。运动场地中的关键点的坐标可以用诸如三个坐标轴x、y和z表示,其中x、y轴是与水平面平行的轴,z轴是与水平面垂直的轴。人体的关键点的坐标以及运动标示物的关键点的坐标可以采用类似的方式表示,本文不赘述。在三维空间中,第一边界和第二边界都是三维边界,即各自具有x、y和z三个坐标。
不同类型的运动场地,或者同一类型的运动场地但不同比赛人数下的出界判定可能是不同的。参见图3,示出根据本申请一个实施例的羽毛球场地的边界线的示意图。在图3中,采用向左倾斜的条纹线表示双打的发球与接发球区,采用向右倾斜的条纹线表示单打的发球与接发球区。如图3所示,羽毛球双打和单打的边线是不同的,两种情况有不同的出界判定方式。因此,可以按照基于运动场地的类型和人数确定的出界规则,来确定每种出界规则下对应的出界边界(称为第一边界)的坐标。第一边界的x、y坐标可以与地面上的运动场地的边界线的x、y坐标一致,垂直方向的z轴坐标则可以以地面为z=0,垂直向上延伸一定的高度作为z轴高度。Z轴的高度可以根据需要设定,其可以是任意值。
此外,可选地,可以在运动场地的出界边界之外额外设置安全区或称缓冲区。安全区或缓冲区也有自己的边界,本文称为第二边界。第二边界可以位于第一边界以外任意合适的距离处,例如将第一边界一个或多个方向的坐标向外延伸十几厘米到二十几厘米等。
安全区可以用于检测是否可以正常计分,即计分这个操作是否合法。如果运动标示物出现在运动场地的第一边界外,但是在安全区内则可以判定为出界违例,而出现在安全区以外则可以判定为此时的计分操作是非法的,不进行计分。安全区的位置可以通过将第一边界处的坐标与一定的阈值相加来确定。例如,可以将第一边界的x轴加上15厘米,将y轴加上20厘米,z轴保持不变,以此确定第二边界的坐标。然后,可以将运动标示物的坐标与以上计算出的坐标进行比较,判断运动标示物是在第一边界内,还是在第一边界外和第二边界内,抑或是在第二边界外。
当运动标示物超出运动场地的边界线太远时,可以认为对其的识别存在错误,认为这种识别是不合法的,无法生效的,因此可以不进行计分。而当运动标示物超出运动场地的边界线不太远时,可以认为其属于出界违例,可以进行正常的为己方扣分或为对方加分等操作。通过这种方案,可以较为准确地对出界进行判定。
根据本申请实施例,标示物信息包括运动标示物的移动轨迹,目标计分规则包括触地规则,触地规则用于规定触地的次数阈值和时间阈值,按照目标计分规则,基于场地信息、肢体信息和标示物信息,确定运动员的行为类型包括:基于运动标示物的移动轨迹,判断运动标示物是否触地;如果运动标示物在时间阈值内的触地次数超过次数阈值,则确定当前发球的运动员执行触地违例行为,为己方扣分行为或为对方加分行为包括触地违例行为。
时间阈值和次数阈值均可以根据需要设定,本申请不对此进行限制。
可以跟踪运动标示物的移动轨迹,判断运动标示物是否触地,并对运动标示物的触地次数进行统计。当运动标示物在时间阈值内的触地次数超过次数阈值时,认为当前发球的运动员属于违例,可以进行对应的为己方扣分或为对方加分等操作。在诸如篮球等运动场景下,运动员频繁运球触地多次之后,属于违例,可以进行一定的惩罚。
示例性地,可以根据运动标示物的移动轨迹计算运动标示物与地面之间的最近距离是否小于或等于目标距离阈值,如果该最近距离小于或等于目标距离阈值,则确定运动标示物触地。可以理解,运动标示物本身具有一定的高度,因此可以设置一定的距离阈值来避免运动标示物自身高度对距离计算的影响。此外,运动标示物可以具有中心关键点,该中心关键点通过上述运动标示物识别获得其坐标,运动标示物与地面之间的距离可以用运动标示物的中心关键点的坐标与地面之间的距离表示。在地面的z轴坐标为0的情况下,可以直接基于运动标示物的中心关键点的z轴坐标的大小来判衡量其与地面之间的距离。
根据本申请实施例,场地信息包括运动场地的位置信息,获取与运动场地相关的场地信息包括:通过场地识别模型识别运动场图像中运动场地所在的位置,以获得第一场地识别结果和第一场地识别结果的置信度;基于运动场图像中的边界线的反光情况识别运动场地所在的位置,以获得第二场地识别结果和第二场地识别结果的置信度;选取第一场地识别结果和第二场地识别结果中置信度高的识别结果,作为场地信息中的位置信息。
运动场地的位置信息可以采用上述运动场地的关键点的坐标表示。可选地,可以通过识别运动场地的边界线所在的位置识别运动场地所在的位置。可以理解,运动场地的边界线可以圈定出运动场地的范围,因此,识别出运动场地的边界线的位置,就可以确定运动场地所在的位置。
可选地,可以采用至少两种方式进行场地识别。不同方式具有不同的置信度。可以从这些方式中选择置信度高的识别结果作为最终的识别结果,以获得所需的运动场地的位置信息。
在一个示例中,可以通过场地识别模型识别运动场地所在的位置。场地识别模型可以是采用样本数据预训练好的。可以将运动场图像输入场地识别模型,场地识别模型输出第一场地识别结果以及第一场地识别结果的置信度。第一场地识别结果是关于运动场地所在位置的位置信息。本领域技术人员可以理解,任一识别结果的置信度可以是该识别结果为正确的结果的概率,或者是该识别结果所携带的信息量的大小。置信度越高,表示该识别结果是正确的结果的概率越大,或者表示该识别结果所携带的信息量越大。
在另一个示例中,可以基于运动场图像中的边界线的反光情况识别运动场地所在的位置。例如,可以获取图像采集装置在不同时刻采集的多个运动场图像,其中,在采集多个运动场图像时用至少两种不同的光强度照射运动场地。例如,可以采用图像采集装置中的补光灯或者与图像采集装置彼此独立的光源作为发光光源,来照射运动场地。在图像采集装置采集多个运动场图像的过程中,可以使发光光源发出的光强发生至少一次变化。上述发光光源可以是可见光光源、红外光光源等。运动场地的边界线通常是白色的,不同颜色的物质对光具有不同的反射程度。白色边界线的反射程度更高。因此,可以通过边界线的反光情况识别运动场地所在的位置。具体识别的实施例将在下文描述。
获得以上两种识别结果及各自的置信度之后,可以选取置信度高的识别结果,作为最终的运动场地的位置信息。
根据本申请实施例,运动场图像包括在第一光照条件下采集的第一数目的运动场图像和在第二光照条件下采集的第二数目的运动场图像,第二光照条件中发光光源的光强度大于第二光照条件中发光光源的光强度,其中,基于运动场图像中的边界线的反光情况识别运动场地所在的位置,以获得第二场地识别结果和第二场地识别结果的置信度包括:对于每个像素,将该像素在第一数目的运动场图像中各自的像素值求平均,获得第一平均图像;对于每个像素,将该像素在第二数目的运动场图像中各自的像素值求平均,获得第二平均图像;对于每个像素,计算该像素在第二平均图像中的像素值与在第一平均图像中的像素值之差,获得每个像素所对应的像素值差值,反光情况采用像素值差值表示;确定所对应的像素值差值高于差值阈值的像素所在的位置为运动场地的边界线所在的位置,获得第二场地识别结果;将边界线所在的位置处的像素所对应的像素差值之和与边界线所在的位置处的像素的数目相比,获得第二场地识别结果的置信度。
第一数目、第二数目和差值阈值可以根据需要设定为任何合适的值,本申请不对此进行限制。第一数目和第二数目均可以是一个或多个。比较可取的是,第一数目和第二数目是多个,这样可以对每种光强度下的多个运动场图像的信息进行平均,使得反映的发光情况更可靠更准确。
在一个示例中,第一光照条件可以是发光光源关闭,完全不发光的条件。第二光照条件可以是发光光源打开,开始正常发光的条件。
通过在不同光强度下采集的运动场图像之间的对比可以计算运动场图像的反光位置、反光量和反光面积。反光位置为运动场地的边界线所在的位置。即,通过反光情况可以识别运动场地所在的位置,获得第二场地识别结果。第二场地识别结果是关于运动场地所在位置的位置信息。示例性地,可以将反光量与反光面积之间的比作为第二场地识别结果的置信度。
示例性而非限制性,像素值可以是RGB值。可以分别计算第一数目的运动场图像中的像素值的平均值以及第二数目的运动场图像中的像素值的平均值。随后以计算两种平均图像在每个像素位置处的像素值之差。像素值差值越大,说明反光程度越高。因此,可以将像素值差值高于一定的差值阈值的像素所在的位置视为边界线所在的位置。此外,反光量可以用边界线所在的位置处的像素所对应的像素差值之和表示,反光面积可以用边界线所在的位置处的像素的数目表示,二者的比可以视为第二场地识别结果的置信度。
在上述实施例中,可以可选地在计算像素值差值之前,对第一平均图像和第二平均图像的像素值分别进行归一化。随后,可以基于归一化后的图像进行像素值差值等计算。本领域技术人员可以理解归一化的实现方式及意义,本文不赘述。
根据本申请实施例,标示物信息包括运动标示物的移动轨迹,按照目标计分规则,基于场地信息、肢体信息和标示物信息,确定运动员的行为类型包括:当基于运动标示物的移动轨迹确定运动标示物触地时,按照目标计分规则,基于场地信息、肢体信息和标示物信息,确定运动员的行为类型。
在诸如羽毛球等运动中,可以在每次触地时才计一次分。即,之前实时采集和识别的场地信息、肢体信息和标示物信息可以先存储起来,在发生运动标示物的触地事件时,才基于先前存储的场地信息、肢体信息和标示物信息进行一次计分。随后,继续进行数据的实时采集和存储,直至下次触地事件发生则进行下一次计分。
根据本申请实施例,方法还包括以下至少一种:当在运动场图像中识别到目标人员执行启动比赛动作时,开始计分操作,其中,计分操作包括按照目标计分规则,基于场地信息、肢体信息和标示物信息,确定运动员的行为类型,以及基于行为类型进行计分;当在运动场图像中识别到目标人员执行暂停动作时,暂停计分操作;当在运动场图像中识别到目标人员执行结束动作或识别到第三数目的运动员离开运动场地目标时段时,结束计分操作。
如上所述,目标人员可以是裁判员、运动员或者任意特定人员等。比较可取的是,目标人员是裁判员。可以根据需要分别设置特定的动作来标记启动比赛和结束比赛等几种比赛状态,在目标人员做出对应动作时,识别目标人员的动作并进行对应的处理。
运动员比赛时,可以至少分为以下几种阶段或说几种状态:比赛前的热身阶段、正式比赛阶段、中场休息阶段、比赛结束后的休息阶段等。这些阶段可以通过启动比赛动作、暂停动作、结束动作等来进行划分。在目标人员执行启动比赛动作之前,无论运动员做出什么行为或姿势,都视为其在热身,此时无需计分。而在目标人员执行启动比赛动作之后,可以正式开始计分操作。在比赛过程中,如果目标人员执行暂停动作,则可以暂停计分操作,进行中场休息。此外,如果目标人员执行结束动作,则可以正式结束计分操作。可选地,结束动作可以包括主动结束动作和被动结束动作。主动结束动作可以理解为比赛正常结束的动作,被动结束动作可以理解为比赛中途取消等动作。在目标人员执行主动结束动作的情况下,可以执行统计先前的得分情况,将得分输出等操作。而在目标人员执行被动结束动作的情况下,可以可选地执行清除先前的得分等操作。
此外,当识别到第三数目的运动员离开运动场地目标时段时,也可以结束计分操作。第三数目和目标时段的大小均可以根据需要设定,其可以是任意合适的值。在一个示例中,第三数目是运动员的全部数目。例如,如果所有运动员均离开运动场地30秒,则可以认为比赛结束,可以自动结束计分操作。示例性地,还可以在任一方运动员的得分达到分数上限或分数下限时,结束上述计分操作。例如,羽毛球双打是21分制,当任一方运动员的得分率先达到21分这个上限时,可以自动结束计分操作。
举例来说,启动比赛动作可以是例如球拍向上竖立挥动三次等,暂停动作可以是例如站在球场边界位置处一段时间等,结束动作可以是例如双手交叉等。
通过识别目标人员的动作的方式来启动、暂停、结束比赛等,这可以进一步提高计分方法的智能化程度。
根据本申请实施例,方法还包括:当在运动场图像中识别到目标人员执行回滚动作时,对运动员的计分进行回滚处理;或者,当接收到目标人员输入的回滚指令时,对运动员的计分进行回滚处理。
例如,裁判员发现刚才运动员发生违例或违规行为需要扣分或给对方加分,但计分器(例如上述电子设备100)却给己方加分了,说明计分器计分错误,需要回滚。当然,在运动员执行了给己方加分的行为,但计分器却进行了扣分的情况,也可以要求计分器回滚,重新进行计数。此时,裁判员可以执行特定的回滚动作,例如球拍向上竖立挥动两次等,也可以直接经由输入装置输入回滚指令。当识别到目标人员执行的特定回滚动作或者接收到目标人员输入的回滚指令时,可以执行回滚处理。回滚处理就是将计分器上一次计入的得分取消,使得分数回到上次计分之前的状态,或者在回到上次计分之前的状态的基础上进一步给己方扣分、给己方加分或给对方加分等。
通过回滚动作或回滚指令,可以及时、方便地修正计分器的误差,维护计分的公平公正。
根据本申请实施例,标示物信息包括运动标示物的新旧程度信息和/或完好程度信息,方法还包括:当新旧程度信息和/或完好程度信息不满足目标要求时,输出报警信息。
运动标示物识别不仅可以识别运动标示物的坐标,也可以可选地识别运动标示物的新旧程度和/或完好程度等。当然,也可以识别运动标示物的形变信息,基于形变信息确定运动标示物的新旧程度和/或完好程度。新旧程度和/或完好程度可以用百分比表示,例如,完好程度可以是80%等。如果新旧程度信息和/或完好程度信息不满足目标要求时,可以及时输出报警信息,以通知裁判员或运动员及时更换或维修运动标示物。例如,如果羽毛球被打扁了或者羽毛掉了,导致其完好程度不符合标准,则会影响对运动标示物的识别,进而影响计分的准确性,因此,可以及时通知裁判员或运动员更换新的羽毛球。
根据本申请实施例,运动场图像包括多个图像采集装置各自采集的运动场图像,对运动场图像进行识别,以获得与位于运动场地上的运动员的肢体相关的肢体信息和与运动标示物相关的标示物信息,包括:对多个图像采集装置各自采集的运动场图像进行识别,以获得与每个图像采集装置相对应的肢体识别结果及肢体识别结果的置信度以及标示物识别结果及标示物识别结果的置信度;从多个图像采集装置各自对应的肢体识别结果中选择置信度最高的肢体识别结果,作为肢体信息;从多个图像采集装置各自对应的标示物识别结果中选择置信度最高的标示物识别结果,作为标示物信息;和/或,获取与运动场地相关的场地信息包括:对多个图像采集装置各自采集的运动场图像进行识别,以获得与每个图像采集装置相对应的场地识别结果;对多个图像采集装置各自对应的场地识别结果进行拼接,或者从多个图像采集装置各自对应的场地识别结果中选择置信度最高的场地识别结果,作为场地信息。
可以在运动场地中设置一个或多个图像采集装置,具体位置只要能够综合起来覆盖运动场地即可。
如果采用多个图像采集装置进行采集,且不同图像采集装置覆盖的运动场地的位置不同,则可以采用拼接的方式来将基于不同图像采集装置采集图像获得的识别结果进行拼接。这样可以获得更全面的场地信息。
可选地,如果采用多个图像采集装置进行采集,且不同图像采集装置均可以覆盖到较为完整的运动场地,则可以分别基于每个图像采集装置采集的图像进行场地识别、肢体识别和运动标示物识别,然后将获得的各种识别结果进行汇总,选取置信度高的作为最终的识别结果。例如,图像采集装置A采集的场地信息比较准确,可以将基于该图像采集装置采集的图像获得的场地识别结果作为场地信息。而图像采集装置B采集的肢体信息比较准确,可以将基于该图像采集装置采集的图像获得的肢体识别结果作为肢体信息。图像采集装置C采集的标示物信息比较准确,可以将基于该图像采集装置采集的图像获得的标示物识别结果作为标示物信息。这样,不同的图像采集装置可以分别负担主要针对不同种类的信息的采集。
通过多个图像采集装置,可以在空间维度提高所采集信息的全面性及信息的置信度。
根据本申请实施例,方法还可以包括:将运动员获得的得分输出。可选地,计分器可以包括任意合适类型的输出装置。输出装置可以包括显示装置和/或扬声器等,可以通过图像、视频、音频、文字等信息中的一种或多种输出运动员的得分。
根据本申请另一方面,提供一种基于视觉的计分装置。图4示出了根据本申请一个实施例的基于视觉的计分装置400的示意性框图。
如图4所示,根据本申请实施例的基于视觉的计分装置400包括获取模块410、识别模块420、获取模块430、确定模块440和计分模块450。各个模块可分别执行上文中图2描述的基于视觉的计分方法的各个步骤。以下仅对该基于视觉的计分装置400的各部件的主要功能进行描述,而省略以上已经描述过的细节内容。
获取模块410用于获取运动场图像。获取模块410可以由图1所示的电子设备中的处理器102运行存储装置104中存储的程序指令来实现。
识别模块420用于对运动场图像进行识别,以获得与位于运动场地上的运动员的肢体相关的肢体信息和与运动标示物相关的标示物信息,运动标示物是运动员运动时操作的对象。识别模块420可以由图1所示的电子设备中的处理器102运行存储装置104中存储的程序指令来实现。
获取模块430用于获取与运动场地相关的场地信息。获取模块430可以由图1所示的电子设备中的处理器102运行存储装置104中存储的程序指令来实现。
确定模块440用于按照目标计分规则,基于场地信息、肢体信息和标示物信息,确定运动员的行为类型,行为类型包括以下一项或多项:为己方扣分行为、为己方加分行为、为对方加分行为、无计分行为。确定模块440可以由图1所示的电子设备中的处理器102运行存储装置104中存储的程序指令来实现。
计分模块450用于基于行为类型进行计分。计分模块450可以由图1所示的电子设备中的处理器102运行存储装置104中存储的程序指令来实现。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
图5示出了根据本申请一个实施例的电子设备500的示意性框图。电子设备500包括存储器510和处理器520。
存储器510存储用于实现根据本申请实施例的基于视觉的计分方法中的相应步骤的计算机程序指令。
处理器520用于运行存储器510中存储的计算机程序指令,以执行根据本申请实施例的基于视觉的计分方法的相应步骤。
在一个实施例中,计算机程序指令被处理器520运行时用于执行以下步骤:获取运动场图像;对运动场图像进行识别,以获得与位于运动场地上的运动员的肢体相关的肢体信息和与运动标示物相关的标示物信息,运动标示物是运动员运动时操作的对象;获取与运动场地相关的场地信息;按照目标计分规则,基于场地信息、肢体信息和标示物信息,确定运动员的行为类型,行为类型包括以下一项或多项:为己方扣分行为、为己方加分行为、为对方加分行为、无计分行为;基于行为类型进行计分。
示例性地,电子设备500还可以包括图像采集装置530。图像采集装置530用于采集运动场图像。图像采集装置530是可选的,电子设备500可以不包括图像采集装置530。在这种情况下,可以利用其他图像采集装置采集运动场图像,并将采集的运动场图像发送给电子设备500。
此外,根据本申请实施例,还提供了一种存储介质,在存储介质上存储了程序指令,在程序指令被计算机或处理器运行时用于执行本申请实施例的基于视觉的计分方法的相应步骤,并且用于实现根据本申请实施例的基于视觉的计分装置中的相应模块。存储介质例如可以包括智能电话的存储卡、平板电脑的存储部件、个人计算机的硬盘、只读存储器(ROM)、可擦除可编程只读存储器(EPROM)、便携式紧致盘只读存储器(CD-ROM)、USB存储器、或者上述存储介质的任意组合。
在一个实施例中,程序指令在被计算机或处理器运行时可以使得计算机或处理器实现根据本申请实施例的基于视觉的计分装置的各个功能模块,并和/或者可以执行根据本申请实施例的基于视觉的计分方法。
在一个实施例中,程序指令在运行时用于执行以下步骤:获取运动场图像;对运动场图像进行识别,以获得与位于运动场地上的运动员的肢体相关的肢体信息和与运动标示物相关的标示物信息,运动标示物是运动员运动时操作的对象;获取与运动场地相关的场地信息;按照目标计分规则,基于场地信息、肢体信息和标示物信息,确定运动员的行为类型,行为类型包括以下一项或多项:为己方扣分行为、为己方加分行为、为对方加分行为、无计分行为;基于行为类型进行计分。
此外,根据本申请实施例,还提供了一种计算机程序产品,计算机程序产品包括计算机程序,计算机程序在运行时用于执行上述基于视觉的计分方法200。
根据本申请实施例的电子设备中的各模块可以通过根据本申请实施例的实施计分的电子设备的处理器运行在存储器中存储的计算机程序指令来实现,或者可以在根据本申请实施例的计算机程序产品的计算机可读存储介质中存储的计算机指令被计算机运行时实现。
此外,根据本申请实施例,还提供了一种计算机程序,该计算机程序在运行时用于执行上述基于视觉的计分方法200。
尽管这里已经参考附图描述了示例实施例,应理解上述示例实施例仅仅是示例性的,并且不意图将本申请的范围限制于此。本领域普通技术人员可以在其中进行各种改变和修改,而不偏离本申请的范围和精神。所有这些改变和修改意在被包括在所附权利要求所要求的本申请的范围之内。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。例如,以上所描述的设备实施例仅仅是示意性的,例如,单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个设备,或一些特征可以忽略,或不执行。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本申请的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本申请并帮助理解各个申请方面中的一个或多个,在对本申请的示例性实施例的描述中,本申请的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该本申请的方法解释成反映如下意图:即所要求保护的本申请要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如相应的权利要求书所反映的那样,其发明点在于可以用少于某个公开的单个实施例的所有特征的特征来解决相应的技术问题。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本申请的单独实施例。
本领域的技术人员可以理解,除了特征之间相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本申请的范围之内并且形成不同的实施例。例如,在权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本申请的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本申请实施例的基于视觉的计分装置中的一些模块的一些或者全部功能。本申请还可以实现为用于执行这里所描述的方法的一部分或者全部的装置程序(例如,计算机程序和计算机程序产品)。这样的实现本申请的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本申请进行说明而不是对本申请进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本申请可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
以上,仅为本申请的具体实施方式或对具体实施方式的说明,本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。本申请的保护范围应以权利要求的保护范围为准。
Claims (12)
1.一种基于视觉的计分方法,包括:
获取运动场图像;
对所述运动场图像进行识别,以获得与位于运动场地上的运动员的肢体相关的肢体信息和与运动标示物相关的标示物信息,所述运动标示物是所述运动员运动时操作的对象;
获取与所述运动场地相关的场地信息;
按照目标计分规则,基于所述场地信息、所述肢体信息和所述标示物信息,确定所述运动员的行为类型,所述行为类型包括以下一项或多项:为己方扣分行为、为己方加分行为、为对方加分行为、无计分行为;
基于所述行为类型进行计分。
2.如权利要求1所述的方法,其中,在所述按照目标计分规则,基于所述场地信息、所述肢体信息和所述标示物信息,确定所述运动员的行为类型之前,所述方法还包括:
基于在所述运动场图像中识别到的目标人员的规则选择动作,确定对应的计分规则,作为所述目标计分规则,其中,不同的计分规则与不同的规则选择动作相对应;或者,
基于所述运动场图像、所述场地信息、所述肢体信息和所述标示物信息中的一项或多项,识别所述运动场地的类型,并至少基于所述运动场地的类型,确定对应的计分规则,作为所述目标计分规则;或者,
基于所述目标人员输入的规则指令,确定所述目标计分规则。
3.如权利要求2所述的方法,其中,所述至少基于所述运动场地的类型,确定对应的计分规则包括:
获取与所述运动场地上的人数相关的人数信息;
基于所述运动场地的类型以及所述人数信息,确定对应的计分规则。
4.如权利要求1至3任一项所述的方法,其中,所述场地信息包括所述运动场地所占据空间的三维空间坐标,所述标示物信息包括所述运动标示物的三维空间坐标,所述目标计分规则包括出界规则,所述出界规则用于规定所述运动场地的第一边界在所述运动场地所占据空间中的相对位置,所述第一边界是区分所述运动标示物是否出界的边界,
所述按照目标计分规则,基于所述场地信息、所述肢体信息和所述标示物信息,确定所述运动员的行为类型包括:
按照所述出界规则,确定所述第一边界在所述运动场地所占据空间中的相对位置;
基于所述场地信息和所述第一边界的相对位置,确定所述第一边界的三维空间坐标;
基于所述标示物信息和所述第一边界的三维空间坐标,判断所述运动标示物是否位于所述第一边界外部;
如果所述运动标示物位于所述第一边界外部,则判断所述运动标示物是否位于所述第一边界之外的第二边界外部;
如果所述运动标示物位于所述第二边界外部,则确定当前发球的运动员执行无计分行为,如果所述运动标示物位于所述第一边界外部且位于所述第二边界内部,则确定当前发球的运动员执行出界违例行为,所述为己方扣分行为或所述为对方加分行为包括所述出界违例行为。
5.如权利要求1至4任一项所述的方法,其中,所述标示物信息包括所述运动标示物的移动轨迹,所述目标计分规则包括触地规则,所述触地规则用于规定触地的次数阈值和时间阈值,所述按照目标计分规则,基于所述场地信息、所述肢体信息和所述标示物信息,确定所述运动员的行为类型包括:
基于所述运动标示物的移动轨迹,判断所述运动标示物是否触地;
如果所述运动标示物在所述时间阈值内的触地次数超过所述次数阈值,则确定当前发球的运动员执行触地违例行为,所述为己方扣分行为或所述为对方加分行为包括所述触地违例行为。
6.如权利要求1至5任一项所述的方法,其中,所述场地信息包括所述运动场地的位置信息,所述获取与所述运动场地相关的场地信息包括:
通过场地识别模型识别所述运动场图像中所述运动场地所在的位置,以获得第一场地识别结果和所述第一场地识别结果的置信度;
基于所述运动场图像中的边界线的反光情况识别所述运动场地所在的位置,以获得第二场地识别结果和所述第二场地识别结果的置信度;
选取所述第一场地识别结果和所述第二场地识别结果中置信度高的识别结果,作为所述场地信息中的位置信息。
7.如权利要求6所述的方法,其中,所述运动场图像包括在第一光照条件下采集的第一数目的运动场图像和在第二光照条件下采集的第二数目的运动场图像,所述第二光照条件中发光光源的光强度大于所述第二光照条件中发光光源的光强度,其中,
所述基于所述运动场图像中的边界线的反光情况识别所述运动场地所在的位置,以获得第二场地识别结果和所述第二场地识别结果的置信度包括:
对于每个像素,将该像素在所述第一数目的运动场图像中各自的像素值求平均,获得第一平均图像;
对于每个像素,将该像素在所述第二数目的运动场图像中各自的像素值求平均,获得第二平均图像;
对于每个像素,计算该像素在所述第二平均图像中的像素值与在所述第一平均图像中的像素值之差,获得每个像素所对应的像素值差值,所述反光情况采用所述像素值差值表示;
确定所对应的像素值差值高于差值阈值的像素所在的位置为所述运动场地的边界线所在的位置,获得所述第二场地识别结果;
将所述边界线所在的位置处的像素所对应的像素差值之和与所述边界线所在的位置处的像素的数目相比,获得所述第二场地识别结果的置信度。
8.如权利要求1至7任一项所述的方法,其中,所述标示物信息包括所述运动标示物的移动轨迹,所述按照目标计分规则,基于所述场地信息、所述肢体信息和所述标示物信息,确定所述运动员的行为类型包括:
当基于所述运动标示物的移动轨迹确定所述运动标示物触地时,按照所述目标计分规则,基于所述场地信息、所述肢体信息和所述标示物信息,确定所述运动员的行为类型。
9.如权利要求1至8任一项所述的方法,其中,所述运动场图像包括多个图像采集装置各自采集的运动场图像,所述对所述运动场图像进行识别,以获得与位于运动场地上的运动员的肢体相关的肢体信息和与运动标示物相关的标示物信息,包括:
对所述多个图像采集装置各自采集的运动场图像进行识别,以获得与每个图像采集装置相对应的肢体识别结果及肢体识别结果的置信度以及标示物识别结果及标示物识别结果的置信度;
从所述多个图像采集装置各自对应的肢体识别结果中选择置信度最高的肢体识别结果,作为所述肢体信息;
从所述多个图像采集装置各自对应的标示物识别结果中选择置信度最高的标示物识别结果,作为所述标示物信息;和/或,
所述获取与所述运动场地相关的场地信息包括:
对所述多个图像采集装置各自采集的运动场图像进行识别,以获得与每个图像采集装置相对应的场地识别结果;
对所述多个图像采集装置各自对应的场地识别结果进行拼接,或者从所述多个图像采集装置各自对应的场地识别结果中选择置信度最高的场地识别结果,作为所述场地信息。
10.一种电子设备,包括处理器和存储器,其特征在于,所述存储器中存储有计算机程序指令,所述计算机程序指令被所述处理器运行时用于执行如权利要求1至9任一项所述的基于视觉的计分方法。
11.一种存储介质,在所述存储介质上存储了程序指令,其特征在于,所述程序指令在运行时用于执行如权利要求1至9任一项所述的基于视觉的计分方法。
12.一种计算机程序产品,所述计算机程序产品包括计算机程序,其特征在于,所述计算机程序在运行时用于执行如权利要求1至9任一项所述的基于视觉的计分方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210934520.4A CN115554685A (zh) | 2022-08-04 | 2022-08-04 | 基于视觉的计分方法、电子设备、存储介质及程序产品 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210934520.4A CN115554685A (zh) | 2022-08-04 | 2022-08-04 | 基于视觉的计分方法、电子设备、存储介质及程序产品 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115554685A true CN115554685A (zh) | 2023-01-03 |
Family
ID=84739332
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210934520.4A Pending CN115554685A (zh) | 2022-08-04 | 2022-08-04 | 基于视觉的计分方法、电子设备、存储介质及程序产品 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115554685A (zh) |
-
2022
- 2022-08-04 CN CN202210934520.4A patent/CN115554685A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP4002198A1 (en) | Posture acquisition method and device, and key point coordinate positioning model training method and device | |
WO2021051579A1 (zh) | 形体姿态识别方法、系统、装置及存储介质 | |
US9183431B2 (en) | Apparatus and method for providing activity recognition based application service | |
US9245177B2 (en) | Limiting avatar gesture display | |
US9465980B2 (en) | Pose tracking pipeline | |
US8660303B2 (en) | Detection of body and props | |
Chen et al. | LSTM with bio inspired algorithm for action recognition in sports videos | |
US10886017B2 (en) | Analysis system and analysis method | |
US20140105456A1 (en) | Device, system and method for determining compliance with an instruction by a figure in an image | |
CN106462725A (zh) | 监测游戏场所的活动的系统和方法 | |
Liu et al. | A survey on location and motion tracking technologies, methodologies and applications in precision sports | |
CN103019372A (zh) | 利用计算设备计算代谢当量 | |
KR20200056602A (ko) | 객체 움직임 인식 방법 및 장치 | |
CN115331314A (zh) | 一种基于app筛查功能的运动效果评估方法和系统 | |
Yang et al. | Research on face recognition sports intelligence training platform based on artificial intelligence | |
CN106371607A (zh) | 一种基于协同游戏的人机互动方法与系统 | |
CN115475373B (zh) | 运动数据的展示方法、装置、存储介质及电子装置 | |
US20140098991A1 (en) | Game doll recognition system, recognition method and game system using the same | |
CN115554685A (zh) | 基于视觉的计分方法、电子设备、存储介质及程序产品 | |
CN115116087A (zh) | 一种动作考核方法、系统、存储介质和电子设备 | |
Monezi et al. | A video-based framework for automatic 3D localization of multiple basketball players: a combinatorial optimization approach | |
RU2599699C1 (ru) | Способ регистрации и анализа соревновательных игровых действий спортсменов | |
KR20230080954A (ko) | 배드민턴 경기의 파울 판정 시스템 및 시스템의 동작 방법 | |
CN102591456A (zh) | 对身体和道具的检测 | |
Dunn | Video-based step measurement in sport and daily living |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |