WO2023000972A1 - 结构化信息抽取方法、装置、设备以及存储介质 - Google Patents

Abstract

本公开提供了结构化信息抽取方法、装置、设备、存储介质以及程序产品，涉及人工智能领域，尤其涉及计算机视觉和深度学习领域。具体实现方案包括：从体育赛事视频中抽取目标体育赛事视频帧；对目标体育赛事视频帧进行目标检测，得到体育赛事中的指定目标信息；对目标体育赛事视频帧进行解析，得到体育赛事的至少一个进程的特征信息，体育赛事包括一个或多个进程；对指定目标信息和至少一个进程的特征信息进行聚合，得到体育赛事结构化信息。本公开可以高效地提取出体育赛事视频中的关键信息，形成结构化数据，为体育赛事锦集提供高质量的素材，有助于完成体育赛事的快速内容创作。

Description

结构化信息抽取方法、装置、设备以及存储介质

本专利申请要求于2021年7月23日提交的、申请号为202110839427.0、发明名称为“结构化信息抽取方法、装置、设备以及存储介质”的中国专利申请的优先权，该申请的全文以引用的方式并入本申请中。

技术领域

本公开涉及人工智能领域，尤其涉及计算机视觉和深度学习领域，具体涉及一种结构化信息抽取方法、装置、设备以及存储介质。

背景技术

随着短视频热潮的兴起，激发了人们对于短而精的视频内容的强烈需求。对于体育比赛视频，相对于完整而冗长的原始体育比赛视频内容，更多人选择通过观看视频集锦完成对视频内容的信息接收。以跳水比赛为例，其运动过程极短，对其实际比赛过程进行拆分再组合，可以完成对大部分非正式比赛过程的过滤，极大的提高用户欣赏精彩片段的效率。

目前，跳水精彩集锦主要是人工编辑制作，跳水赛事的编辑们根据个人经验，标记跳水回合和结束时间点，抽取视频片段。

发明内容

本公开提供了一种结构化信息抽取方法、装置、设备、存储介质以及程序产品。

根据本公开的第一方面，提供了一种结构化信息抽取方法，包括：从体育赛事视频中抽取目标体育赛事视频帧；对目标体育赛事视频帧进行目标检测，得到体育赛事中的指定目标信息；对目标体育赛事视频帧进行解析，得到体育赛事的至少一个进程的特征信息，体育赛事包括一个或多个进程；对指定目标信息和至少一个进程的特征信息进行聚合，得到体育赛事结构化信息。

根据本公开的第二方面，提供了一种结构化信息抽取装置，包括：抽取模块，被配置成从体育赛事视频中抽取目标体育赛事视频帧；检测模块，被配置成对目标体育赛事视频帧进行目标检测，得到体育赛事中的指定目标信息；解析模块，被配置成 对目标体育赛事视频帧进行解析，得到体育赛事的至少一个进程的特征信息，体育赛事包括一个或多个进程；聚合模块，被配置成对指定目标信息和至少一个进程的特征信息进行聚合，得到体育赛事结构化信息。

根据本公开的第三方面，提供了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行如第一方面中任一实现方式描述的方法。

根据本公开的第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，计算机指令用于使计算机执行如第一方面中任一实现方式描述的方法。

根据本公开的第五方面，提供了一种计算机程序产品，包括计算机程序，计算机程序在被处理器执行时实现如第一方面中任一实现方式描述的方法。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是根据本公开的结构化信息抽取方法的一个实施例的流程图；

图2是根据本公开的结构化信息抽取方法的又一个实施例的流程图；

图3是目标检测模型的结构示意图；

图4是深度学习分类模型的结构示意图；

图5是可以实现本公开实施例的结构化信息抽取方法的场景图；

图6是根据本公开的结构化信息抽取装置的一个实施例的结构示意图；

图7是用来实现本公开实施例的结构化信息抽取方法的电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本 公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

需要说明的是，在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。

图1示出了根据本公开的结构化信息抽取方法的一个实施例的流程100。该结构化信息抽取方法包括以下步骤：

步骤101，从体育赛事视频中抽取目标体育赛事视频帧。

在本实施例中，结构化信息抽取方法的执行主体(终端或服务器)可以从体育赛事视频中抽取目标体育赛事视频帧。

其中，体育赛事一般指比较有规模有级别的正规比赛，因此，体育赛事视频一般比较规范且具有明显规律。例如跳水赛事，具有回合制、过程重复、动作过程和转播场景规范且具有明显规律。考虑到每个回合的时间和计算效率，可以从体育赛事视频中抽取部分体育赛事视频帧，作为目标体育赛事视频帧。例如，采用对体育比赛赛事视频每秒抽一帧，得到目标体育赛事视频帧。

步骤102，对目标体育赛事视频帧进行目标检测，得到体育赛事中的指定目标信息。

在本实施例中，上述执行主体可以对目标体育赛事视频帧进行目标检测，得到体育赛事中的指定目标信息。

其中，体育赛事中的指定目标可以是出现在体育赛事视频中的指定目标。以跳水赛事为例，其体育赛事中的指定目标可以包括但不限于：运动员、国旗等等。体育赛事中的指定目标信息可以是体育赛事视频的关键信息，包括但不限于运动员身份信息、中场统计信息和国旗信息等等任意中的一个或多个。

步骤103，对目标体育赛事视频帧进行解析，得到体育赛事的至少一个进程的特征信息。

在本实施例中，上述执行主体可以对目标体育赛事视频帧进行解析，得到体育赛事的至少一个进程的特征信息。

其中，体育赛事的进程可以是体育赛事视频中的指定运动过程。体育赛事可以包括一个或多个进程。以跳水赛事为例，其进程可以包括但不限于跳水进程、落水进程等等。进程的特征信息可以是体育赛事视频的关键信息，包括但不限于跳水类别、落水类别等等。跳水类别可以是运动员在跳水进程中的动作的类别。落水类别可以是运 动员在落水进程中形成的水花的类别。

步骤104，对指定目标信息和至少一个进程的特征信息进行聚合，得到体育赛事结构化信息。

在本实施例中，上述执行主体可以对指定目标信息和至少一个进程的特征信息进行聚合，得到体育赛事结构化信息。

其中，体育赛事结构化信息可以是指定目标信息或进程的特征信息经过分析后可分解成多个互相关联的组成部分，各组成部分间有明确的层次结构。通常，体育赛事中的至少一种指定目标信息可以聚合成一种体育赛事结构化信息。体育赛事中的至少一个进程的特征信息也可以聚合成一种体育赛事结构化信息。例如，一种指定目标信息可以聚合成一种体育赛事结构化信息。又例如，多种指定目标信息也可以聚合成一种体育赛事结构化信息。一个进程的特征信息可以聚合成一种体育赛事结构化信息。又例如，多个进程的特征信息也可以聚合成一种体育赛事结构化信息。

本公开可以高效地提取出体育赛事视频中的关键信息，形成结构化数据，为体育赛事锦集提供高质量的素材，有助于完成体育赛事的快速内容创作。

继续参考图2，其示出了根据本公开的结构化信息抽取方法的又一个实施例的流程200。该结构化信息抽取方法包括以下步骤：

步骤201，从体育赛事视频中抽取目标体育赛事视频帧。

在本实施例中，步骤201具体操作已在图1所示的实施例中步骤101进行了详细的介绍，在此不再赘述。

步骤202，将目标体育赛事视频帧输入至预先训练的目标检测模型，得到体育赛事中的指定目标信息。

在本实施例中，结构化信息抽取方法的执行主体可以将目标体育赛事视频帧输入至预先训练的目标检测模型，得到体育赛事中的指定目标信息。

其中，目标检测模型可以用于检测体育赛事中的指定目标信息。体育赛事中的指定目标信息可以包括体育赛事中的指定目标的类别和/或指定目标的位置。目标检测模型可以是深度学习模型，对体育赛事视频中的有效信息进行检测。通常，目标检测模型可以包括但不限于带有残差连接的卷积结构(R)、带残差连接的反卷积结构(DR5)、卷积块(CBL)、上采样层(UP)、分类层(C)等等。

为了便于理解，图3示出了目标检测模型的结构示意图。如图3所示，目标检测模型的输入(Input)依次经过R1、R2、R3、R4、DR5、CBLx5、CBL、C，得到输出 Y1。第一个CBLx5的输出依次经过CBL、UP，与R4的输出一起经过CBLx5、CBL、C，得到输出Y2。第二个CBLx5的输出依次经过CBL、UP，与R3的输出一起经过CBLx5、CBL、C，得到输出Y3。其中，CBLx5是5个CBL。

步骤203，将目标体育赛事视频帧输入至预先训练的深度学习分类模型，得到体育赛事的至少一个进程的类别。

在本实施例中，上述执行主体可以将目标体育赛事视频帧输入至预先训练的深度学习分类模型，得到体育赛事的至少一个进程的类别。

通常，跳水比赛中运动员从离开跳板或跳台入水过程比较经典，具有明显的图像特征，利用深度学习分类模型可以实现对体育赛事的至少一个进程进行分类。深度学习分类模型可以是深度学习模型，可以对体育赛事视频中的进程类别进行有效分类。通常，深度学习分类模型可以包括多个卷积层(conv)、多个池化层(pool)和多个全连接层(FC)。多个卷积层中的卷积层与多个池化层中的池化层交替连接，多个全连接层级联。其中，多个卷积层堆叠，可以不断地对图像或特征图进行打分，加深深度学习分类模型的网络，使得深度学习分类模型具有较强的抽象能力。每个池化层都可以缩小输入至其中的图像或特征图，再输入至其后连接的卷积层，从而减小卷积层的运算量。多个全连接层级联(也即，一个全连接层的输出作为后面一个全连接层的输入)，可以增加深度学习分类模型中的函数的非线性。

为了便于理解，图4示出了深度学习分类模型的结构示意图。如图4所示，深度学习分类模型依次包括2个3×3conv,64，1个pool1/2，2个3×3conv,128，1个pool1/2，3个3×3conv,256，1个pool1/2，3个3×3conv,512，1个pool1/2，3个3×3conv,512，1个pool1/2，3个fc 4096。

步骤204，对指定目标信息和至少一个进程的特征信息分别按照时间信息进行聚类，得到指定目标信息对应的信息时间序列和至少一个进程的特征信息对应的信息时间序列。

在本实施例中，上述执行主体可以对指定目标信息和至少一个进程的特征信息分别按照时间信息进行聚类，得到指定目标信息对应的信息时间序列和至少一个进程的特征信息对应的信息时间序列。其中，每种指定目标信息分别进行时间聚类，得到每种指定目标的信息时间序列。每种特征信息分别进行时间聚类，得到每种特征信息时间序列。

步骤205，基于指定目标信息对应的信息时间序列和至少一个进程的特征信息对 应的信息时间序列，获取体育赛事结构化信息。

在本实施例中，上述执行主体可以基于指定目标信息对应的信息时间序列和至少一个进程的特征信息对应的信息时间序列，获取体育赛事结构化信息。

在指定目标信息包括运动员身份信息、中场统计信息，进程的特征信息包括跳水类别和落水类别的情况下，具体如下：

1、基于运动员身份信息对应的信息时间序列，获得比赛运动员信息。

通常，在基于运动员身份信息对应的信息时间序列，获得比赛运动员信息时，还可以结合国旗信息，从而获取比赛运动员所属的国家，进而扩充比赛运动员信息。

此外，预设知识图谱可以用于存储大量运动员的预存信息。若比赛运动员信息存在于预设知识图谱中，则在预设知识图谱中获取比赛运动员信息对应的运动员的其他预存信息，用于对比赛运动员信息进行扩充。

2、基于运动员身份信息，获得候选跳水区间，以及确定候选跳水区间的跳水得分信息。

由于每个运动员跳水前后均会出现运动员身份信息，因此基于运动员身份信息，即可得到候选跳水区间。而候选跳水区间中会出现跳水分数信息，因此对候选跳水区间进行识别，可以得到候选跳水区间的跳水得分信息。

3、基于中场统计信息对应的信息时间序列，对跳水类别对应的信息时间序列和落水类别对应的信息时间序列进行过滤，得到跳水和落水时间序列。

其中，中场统计信息可以用于区分比赛中时间和中场休息时间，因此能够对跳水类别对应的信息时间序列和落水类别对应的信息时间序列进行过滤，包括比赛中的跳水进程和落水进程，即可得到跳水和落水时间序列。

4、将候选跳水区间与跳水和落水时间序列进行匹配，得到跳水时间信息。

通常，候选跳水区间中有跳水过程或者落水过程，则该候选跳水区间为一个有效的跳水区间，否则该候选跳水区间被舍弃。过滤和拆分过长的和处于中场休息的区间，最终得到跳水比赛中的跳水时间信息。

最后，基于比赛运动员信息、跳水得分信息和跳水时间信息，即可获取体育赛事结构化信息。此外，在基于预设知识图谱对比赛运动员信息进行扩充的情况下，基于比赛运动员信息、其他预存信息、跳水得分信息和跳水时间信息，获取体育赛事结构化信息。

从图2中可以看出，与图1对应的实施例相比，本实施例中的结构化信息抽取方 法突出了检测步骤、分类步骤和聚合步骤。由此，本实施例描述的方案利用目标检测模型，能够对体育赛事视频中的有效信息进行检测。利用深度学习分类模型，能够对体育赛事视频中的进程类别进行有效分类。先对体育赛事中的指定目标信息和体育赛事中至少一个进程的特征信息进行时间聚类，再对聚类结果进行整合，使得体育赛事结构化信息更加全面。

进一步参考图5，其示出了可以实现本公开实施例的结构化信息抽取方法的场景图。如图5所示，结构化信息抽取方法包括：数据准备、比赛关键信息检测、比赛关键过程分类和比赛关键信息聚合策略等步骤，具体内容如下：

1、数据准备：从跳水赛事视频中抽取视频帧，得到视频序列。

2、比赛关键信息检测：将视频序列输入至目标检测模型，得到跳水比赛的比赛关键信息。

3、比赛关键过程分类：将视频序列输入至深度学习分类模型，得到跳水比赛的比赛过程类别。

4、比赛关键信息聚合策略：首先，对跳水比赛关键信息进行时间聚合，得到运动员得分、运动员名信息和中场统计信息，以及对跳水比赛过程类别进行时间聚合，得到跳水水花信息和跳水过程信息。此外，运动员名信息还可以生成跳水回合候选。然后，运动员得分可以生成跳水得分信息；运动员名信息可以生成运动员信息，并基于KG(Knowledge Graph，知识图谱)进行填充；中场统计信息可以对跳水水花信息和跳水过程信息进行过滤，得到比赛中的跳水过程信息；跳水回合候选与跳水过程信息匹配，可以得到跳水时间信息。最后，基于跳水得分信息、运动员信息和跳水时间信息，即可得到跳水比赛的结构化信息。

进一步参考图6，作为对上述各图所示方法的实现，本公开提供了一种结构化信息抽取装置的一个实施例，该装置实施例与图1所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图6所示，本实施例的结构化信息抽取装置600可以包括：抽取模块601、检测模块602、分类模块603和聚合模块604。其中，抽取模块601，被配置成从体育赛事视频中抽取目标体育赛事视频帧；检测模块602，被配置成对目标体育赛事视频帧进行目标检测，得到体育赛事中的指定目标信息；解析模块603，被配置成对目标体育赛事视频帧进行解析，得到体育赛事的至少一个进程的特征信息，体育赛事包括一个或多个进程；聚合模块604，被配置成对指定目标信息和至少一个进程的特征 信息进行聚合，得到体育赛事结构化信息。

在本实施例中，结构化信息抽取装置600中：抽取模块601、检测模块602、分类模块603和聚合模块604的具体处理及其所带来的技术效果可分别参考图1对应实施例中的步骤101-104的相关说明，在此不再赘述。

在本实施例的一些可选的实现方式中，检测模块602进一步被配置成：将目标体育赛事视频帧输入至预先训练的目标检测模型，得到体育赛事中的指定目标信息。

在本实施例的一些可选的实现方式中，体育赛事中的指定目标信息包括体育赛事中指定目标的类别和/或指定目标的位置。

在本实施例的一些可选的实现方式中，目标检测模型包括以下至少一项：带有残差连接的卷积结构、带残差连接的反卷积结构、卷积块、上采样层和分类层。

在本实施例的一些可选的实现方式中，解析模块603进一步被配置成：将目标体育赛事视频帧输入至预先训练的深度学习分类模型，得到体育赛事的至少一个进程的类别。

在本实施例的一些可选的实现方式中，深度学习分类模型包括多个卷积层、多个池化层和多个全连接层，多个卷积层中的卷积层与多个池化层中的池化层交替连接，多个全连接层级联。

在本实施例的一些可选的实现方式中，聚合模块604包括：聚类子模块，被配置成对指定目标信息和至少一个进程的特征信息分别按照时间信息进行聚类，得到指定目标信息对应的信息时间序列和至少一个进程的特征信息对应的信息时间序列；获取子模块，被配置成基于指定目标信息对应的信息时间序列和至少一个进程的特征信息对应的信息时间序列，获取体育赛事结构化信息。

在本实施例的一些可选的实现方式中，体育赛事视频为跳水比赛视频，指定目标信息包括以下至少一项：运动员身份信息、中场统计信息、国旗信息，至少一个进程的特征信息包括以下至少一项：跳水类别和落水类别。

在本实施例的一些可选的实现方式中，在指定目标信息包括运动员身份信息、中场统计信息，且至少一个进程的特征信息包括跳水类别和落水类别的情况下，获取子模块包括：第一获取单元，被配置成基于运动员身份信息对应的信息时间序列，获得比赛运动员信息；确定取单元，被配置成基于运动员身份信息，获得候选跳水区间，以及确定候选跳水区间的跳水得分信息；第二获取单元，被配置成基于中场统计信息对应的信息时间序列，对跳水类别对应的信息时间序列和落水类别对应的信息时间序 列进行过滤，得到跳水和落水时间序列；匹配单元，被配置成将候选跳水区间与跳水和落水时间序列进行匹配，得到跳水时间信息；第三获取单元，被配置成基于比赛运动员信息、跳水得分信息和跳水时间信息，获取体育赛事结构化信息。

在本实施例的一些可选的实现方式中，获取子模块还包括：检测单元，被配置成检测比赛运动员信息是否存在于预设知识图谱中；第四获取单元，被配置成若比赛运动员信息存在于预设知识图谱中，则在预设知识图谱中获取比赛运动员信息对应的运动员的其他预存信息；第三获取单元进一步被配置成：基于比赛运动员信息、其他预存信息、跳水得分信息和跳水时间信息，获取体育赛事结构化信息。

本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图7示出了可以用来实施本公开的实施例的示例电子设备700的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图7所示，设备700包括计算单元701，其可以根据存储在只读存储器(ROM)702中的计算机程序或者从存储单元708加载到随机访问存储器(RAM)703中的计算机程序，来执行各种适当的动作和处理。在RAM 703中，还可存储设备700操作所需的各种程序和数据。计算单元701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。

设备700中的多个部件连接至I/O接口705，包括：输入单元706，例如键盘、鼠标等；输出单元707，例如各种类型的显示器、扬声器等；存储单元708，例如磁盘、光盘等；以及通信单元709，例如网卡、调制解调器、无线通信收发机等。通信单元709允许设备700通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计 算单元701的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理，例如结构化信息抽取方法。例如，在一些实施例中，结构化信息抽取方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元708。在一些实施例中，计算机程序的部分或者全部可以经由ROM 702和/或通信单元709而被载入和/或安装到设备700上。当计算机程序加载到RAM 703并由计算单元701执行时，可以执行上文描述的结构化信息抽取方法的一个或多个步骤。备选地，在其他实施例中，计算单元701可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行结构化信息抽取方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系 统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替 代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (23)

1. 一种结构化信息抽取方法，包括：

   从体育赛事视频中抽取目标体育赛事视频帧；

   对所述目标体育赛事视频帧进行目标检测，得到体育赛事中的指定目标信息；

   对所述目标体育赛事视频帧进行解析，得到所述体育赛事的至少一个进程的特征信息，所述体育赛事包括一个或多个进程；

   对所述指定目标信息和所述至少一个进程的特征信息进行聚合，得到体育赛事结构化信息。
2. 根据权利要求1所述的方法，其中，所述对所述目标体育赛事视频帧进行目标检测，得到体育赛事中的指定目标信息，包括：

   将所述目标体育赛事视频帧输入至预先训练的目标检测模型，得到所述体育赛事中的指定目标信息。
3. 根据权利要求1或2所述的方法，其中，所述体育赛事中的指定目标信息包括所述体育赛事中指定目标的类别和/或所述指定目标的位置。
4. 根据权利要求2所述的方法，其中，所述目标检测模型包括以下至少一项：带有残差连接的卷积结构、带残差连接的反卷积结构、卷积块、上采样层和分类层。
5. 根据权利要求1所述的方法，其中，所述对所述目标体育赛事视频帧进行解析，得到所述体育赛事的至少一个进程的特征信息，包括：

   将所述目标体育赛事视频帧输入至预先训练的深度学习分类模型，得到所述体育赛事的至少一个进程的类别。
6. 根据权利要求5所述的方法，其中，所述深度学习分类模型包括多个卷积层、多个池化层和多个全连接层，所述多个卷积层中的卷积层与所述多个池化层中的池化层交替连接，所述多个全连接层级联。
7. 根据权利要求1-6中任一项所述的方法，其中，所述对所述指定目标信息和所述至少一个进程的特征信息进行聚合，得到体育赛事结构化信息，包括：

   对所述指定目标信息和所述至少一个进程的特征信息分别按照时间信息进行聚类，得到所述指定目标信息对应的信息时间序列和所述至少一个进程的特征信息对应的信息时间序列；

   基于所述指定目标信息对应的信息时间序列和所述至少一个进程的特征信息对 应的信息时间序列，获取所述体育赛事结构化信息。
8. 根据权利要求7所述的方法，其中，所述体育赛事视频为跳水比赛视频，所述指定目标信息包括以下至少一项：运动员身份信息、中场统计信息、国旗信息，所述至少一个进程的特征信息包括以下至少一项：跳水类别和落水类别。
9. 根据权利要求8所述的方法，其中，在所述指定目标信息包括运动员身份信息、中场统计信息，且所述至少一个进程的特征信息包括跳水类别和落水类别的情况下，

   所述基于所述指定目标信息对应的信息时间序列和所述至少一个进程的特征信息对应的信息时间序列，获取所述体育赛事结构化信息，包括：

   基于所述运动员身份信息对应的信息时间序列，获得比赛运动员信息；

   基于所述运动员身份信息，获得候选跳水区间，以及确定所述候选跳水区间的跳水得分信息；

   基于所述中场统计信息对应的信息时间序列，对所述跳水类别对应的信息时间序列和落水类别对应的信息时间序列进行过滤，得到跳水和落水时间序列；

   将所述候选跳水区间与所述跳水和落水时间序列进行匹配，得到跳水时间信息；

   基于所述比赛运动员信息、所述跳水得分信息和所述跳水时间信息，获取所述体育赛事结构化信息。
10. 根据权利要求9所述的方法，所述方法还包括：

    检测所述比赛运动员信息是否存在于预设知识图谱中；

    若所述比赛运动员信息存在于所述预设知识图谱中，则在所述预设知识图谱中获取所述比赛运动员信息对应的运动员的其他预存信息；

    所述基于所述比赛运动员信息、所述跳水得分信息和所述跳水时间信息，获取所述体育赛事结构化信息，包括：

    基于所述比赛运动员信息、所述其他预存信息、所述跳水得分信息和所述跳水时间信息，获取所述体育赛事结构化信息。
11. 一种结构化信息抽取装置，包括：

    抽取模块，被配置成从体育赛事视频中抽取目标体育赛事视频帧；

    检测模块，被配置成对所述目标体育赛事视频帧进行目标检测，得到体育赛事中的指定目标信息；

    解析模块，被配置成对所述目标体育赛事视频帧进行解析，得到所述体育赛事的 至少一个进程的特征信息，所述体育赛事包括一个或多个进程；

    聚合模块，被配置成对所述指定目标信息和所述至少一个进程的特征信息进行聚合，得到体育赛事结构化信息。
12. 根据权利要求11所述的装置，其中，所述检测模块进一步被配置成：

    将所述目标体育赛事视频帧输入至预先训练的目标检测模型，得到所述体育赛事中的指定目标信息。
13. 根据权利要求11或12所述的装置，其中，所述体育赛事中的指定目标信息包括所述体育赛事中指定目标的类别和/或所述指定目标的位置。
14. 根据权利要求12所述的装置，其中，所述目标检测模型包括以下至少一项：带有残差连接的卷积结构、带残差连接的反卷积结构、卷积块、上采样层和分类层。
15. 根据权利要求11所述的装置，其中，所述解析模块进一步被配置成：

    将所述目标体育赛事视频帧输入至预先训练的深度学习分类模型，得到所述体育赛事的至少一个进程的类别。
16. 根据权利要求15所述的装置，其中，所述深度学习分类模型包括多个卷积层、多个池化层和多个全连接层，所述多个卷积层中的卷积层与所述多个池化层中的池化层交替连接，所述多个全连接层级联。
17. 根据权利要求11-16中任一项所述的装置，其中，所述聚合模块包括：

    聚类子模块，被配置成对所述指定目标信息和所述至少一个进程的特征信息分别按照时间信息进行聚类，得到所述指定目标信息对应的信息时间序列和所述至少一个进程的特征信息对应的信息时间序列；

    获取子模块，被配置成基于所述指定目标信息对应的信息时间序列和所述至少一个进程的特征信息对应的信息时间序列，获取所述体育赛事结构化信息。
18. 根据权利要求17所述的装置，其中，所述体育赛事视频为跳水比赛视频，所述指定目标信息包括以下至少一项：运动员身份信息、中场统计信息、国旗信息，所述至少一个进程的特征信息包括以下至少一项：跳水类别和落水类别。
19. 根据权利要求18所述的装置，其中，在所述指定目标信息包括运动员身份信息、中场统计信息，且所述至少一个进程的特征信息包括跳水类别和落水类别的情况下，

    所述获取子模块包括：

    第一获取单元，被配置成基于所述运动员身份信息对应的信息时间序列，获得比 赛运动员信息；

    确定取单元，被配置成基于所述运动员身份信息，获得候选跳水区间，以及确定所述候选跳水区间的跳水得分信息；

    第二获取单元，被配置成基于所述中场统计信息对应的信息时间序列，对所述跳水类别对应的信息时间序列和落水类别对应的信息时间序列进行过滤，得到跳水和落水时间序列；

    匹配单元，被配置成将所述候选跳水区间与所述跳水和落水时间序列进行匹配，得到跳水时间信息；

    第三获取单元，被配置成基于所述比赛运动员信息、所述跳水得分信息和所述跳水时间信息，获取所述体育赛事结构化信息。
20. 根据权利要求19所述的装置，所述获取子模块还包括：

    检测单元，被配置成检测所述比赛运动员信息是否存在于预设知识图谱中；

    第四获取单元，被配置成若所述比赛运动员信息存在于所述预设知识图谱中，则在所述预设知识图谱中获取所述比赛运动员信息对应的运动员的其他预存信息；

    所述第三获取单元进一步被配置成：

    基于所述比赛运动员信息、所述其他预存信息、所述跳水得分信息和所述跳水时间信息，获取所述体育赛事结构化信息。
21. 一种电子设备，包括：

    至少一个处理器；以及

    与所述至少一个处理器通信连接的存储器；其中，

    所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-10中任一项所述的方法。
22. 一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-10中任一项所述的方法。
23. 一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-10中任一项所述的方法。

Images