CN115346145A - 重复视频的识别方法、设备、储存介质及计算机程序产品 - Google Patents

重复视频的识别方法、设备、储存介质及计算机程序产品 Download PDF

Info

Publication number
CN115346145A
CN115346145A CN202110521581.3A CN202110521581A CN115346145A CN 115346145 A CN115346145 A CN 115346145A CN 202110521581 A CN202110521581 A CN 202110521581A CN 115346145 A CN115346145 A CN 115346145A
Authority
CN
China
Prior art keywords
video
data
modal data
key frame
feature information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110521581.3A
Other languages
English (en)
Inventor
任晖
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Zitiao Network Technology Co Ltd
Original Assignee
Beijing Zitiao Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Zitiao Network Technology Co Ltd filed Critical Beijing Zitiao Network Technology Co Ltd
Priority to CN202110521581.3A priority Critical patent/CN115346145A/zh
Publication of CN115346145A publication Critical patent/CN115346145A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/27—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
    • G10L25/30—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique using neural networks
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
    • G10L25/57—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination for processing of video signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Signal Processing (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Biophysics (AREA)
  • Data Mining & Analysis (AREA)
  • Acoustics & Sound (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开实施例提供一种重复视频的识别方法、设备、储存介质及计算机程序产品，通过对第一视频提取第一多模态数据，对第二视频提取第二多模态数据，第一多模态数据和第二多模态数据均包括至少两种相同种类的模态数据；分别提取各模态数据对应的特征信息；根据各模态数据对应的特征信息确定第一视频和第二视频之间的综合相似度参数；若综合相似度参数大于预设相似度阈值，则将第一视频和第二视频识别为重复视频。通过考虑第一视频和第二视频的多模态数据，可准确得到综合相似度参数，基于综合相似度参数来准确科学的识别重复视频，避免基于单一模态特征相似度导致的不准确性。

Description

重复视频的识别方法、设备、储存介质及计算机程序产品
技术领域
本公开实施例涉及计算机与网络通信技术领域，尤其涉及一种重复视频的识别方法、设备、储存介质及计算机程序产品。
背景技术
随着大数据时代的到来，视频作为一种新的交互形式，成为了整个人机交互中，甚至是人与人交流的重要组成部分。随着视频数据量的大幅度增长，在视频库中可能出现了许多相同视频，比如将某个视频的片段裁剪出来做成的短视频，或者通过不同渠道发布的相同视频等。为了实现对视频库中的相同视频进行去重处理，诞生了许多视频的去重技术。
现有技术中的去重技术在识别重复视频时，通常通过视频的关键帧检测，提取出一系列的视频关键帧，计算两个视频之间关键帧的图像相关性，然后通过多帧结果聚合得到两个视频之间相关程度，从而判断两个视频是否为重复视频。
但是现有技术中通过视频关键帧进行重复视频识别，其准确度并不高，容易产生错误的识别结果，将原本不一样的两个视频识别为重复视频。
发明内容
本公开实施例提供一种重复视频的识别方法、设备、储存介质及计算机程序产品，以提高重复视频识别的准确度。
第一方面，本公开实施例提供一种重复视频的识别方法，包括：
对待识别的第一视频提取第一多模态数据，其中，所述第一多模态数据包括至少两种模态数据；
对待识别的第二视频提取第二多模态数据，其中，所述第二多模态数据包括至少两种模态数据，且所述第一多模态数据的各模态数据种类与所述第二多模态数据的各模态数据种类相同；
针对所述第一多模态数据的各模态数据、以及所述第二多模态数据的各模态数据，分别提取各模态数据对应的特征信息；
根据所述各模态数据对应的特征信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值；
若所述第一视频和所述第二视频之间的综合相似度参数的数值大于预设相似度阈值，则将所述第一视频和所述第二视频识别为重复视频。
第二方面，本公开实施例提供一种重复视频的识别设备，包括：
提取单元，用于对待识别的第一视频提取第一多模态数据，其中，所述第一多模态数据包括至少两种模态数据；以及对待识别的第二视频提取第二多模态数据，其中，所述第二多模态数据包括至少两种模态数据，且所述第一多模态数据的各模态数据种类与所述第二多模态数据的各模态数据种类相同；
第一处理单元，用于针对所述第一多模态数据的各模态数据、以及所述第二多模态数据的各模态数据，分别提取各模态数据对应的特征信息；
第二处理单元，用于根据所述各模态数据对应的特征信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值；
识别单元，用于在所述第一视频和所述第二视频之间的综合相似度参数的数值大于预设相似度阈值时，将所述第一视频和所述第二视频识别为重复视频。
第三方面，本公开实施例提供一种电子设备，包括：至少一个处理器和存储器；
所述存储器存储计算机执行指令；
所述至少一个处理器执行所述存储器存储的计算机执行指令，使得所述至少一个处理器执行如上第一方面以及第一方面各种可能的设计所述的方法。
第四方面，本公开实施例提供一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机执行指令，当处理器执行所述计算机执行指令时，实现如上第一方面以及第一方面各种可能的设计所述的方法。
第五方面，本公开实施例提供一种计算机程序产品，包括计算机指令，该计算机指令被处理器执行时实现如上第一方面以及第一方面各种可能的设计所述的方法。
本公开实施例提供的重复视频的识别方法、设备、储存介质及计算机程序产品，通过对待识别的第一视频提取第一多模态数据，其中，第一多模态数据包括至少两种模态数据；对待识别的第二视频提取第二多模态数据，其中，第二多模态数据包括至少两种模态数据，且第一多模态数据的各模态数据种类与第二多模态数据的各模态数据种类相同；针对第一多模态数据的各模态数据、以及第二多模态数据的各模态数据，分别提取各模态数据对应的特征信息；根据各模态数据对应的特征信息，确定第一视频和第二视频之间的综合相似度参数的数值；若第一视频和第二视频之间的综合相似度参数的数值大于预设相似度阈值，则将第一视频和第二视频识别为重复视频。本公开实施例中考虑了第一视频和第二视频的多种模态数据，可以准确提取各种模态下的特征信息，进而准确得到综合相似度参数，并基于综合相似度参数来准确科学的识别重复视频，避免了基于单一模态特征相似度导致的不准确性。
附图说明
为了更清楚地说明本公开实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本公开一实施例提供的重复视频的识别方法的应用场景示例图；
图2为本公开一实施例提供的重复视频的识别方法流程示意图；
图3为本公开另一实施例提供的重复视频的识别方法流程示意图；
图4为本公开另一实施例提供的重复视频的识别方法流程示意图；
图5为本公开另一实施例提供的重复视频的识别方法流程示意图；
图6为本公开另一实施例提供的重复视频的识别方法流程示意图；
图7为本公开另一实施例提供的重复视频的识别方法流程示意图；
图8为本公开另一实施例提供的重复视频的识别方法流程示意图；
图9为本公开另一实施例提供的重复视频的识别方法流程示意图；
图10a为本公开另一实施例提供的重复视频的识别方法流程示意图；
图10b为本公开一实施例提供的第一视频与第二视频的关键帧时序对齐的示意图；
图11为本公开另一实施例提供的重复视频的识别方法流程示意图；
图12为本公开实施例提供的重复视频的识别设备的结构框图；
图13为本公开实施例提供的电子设备的硬件结构示意图。
具体实施方式
为使本公开实施例的目的、技术方案和优点更加清楚，下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本公开一部分实施例，而不是全部的实施例。基于本公开中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本公开保护的范围。
现有技术中的去重技术在识别重复视频时，通常通过视频的关键帧检测，提取出一系列的视频关键帧，计算两个视频之间关键帧的图像相关性，然后通过多帧结果聚合得到两个视频之间相关程度，从而判断两个视频是否为重复视频。
但是，现有技术中通过视频关键帧进行重复视频识别，仅仅在视觉维度上比较两个视觉的相关程度，而现实生活中存在很多虽然视觉内容上相同或相似、但完全是不一样的视频，例如，针对同一场比赛的两个不同的解说视频，就存在视频视觉内容相同或相似、但音频内容完全不一致的情况。因此仅仅通过视频关键帧进行重复视频识别，会将视觉内容上相同或相似、但完全是不一样的视频识别为重复视频，产生错误的识别结果，其准确度并不高。
针对上述技术问题，本公开实施例提供的重复视频的识别方法不仅仅采用视觉维度这单一模态进行重复视频识别，而是考虑至少两种模态进行综合处理，从至少两种模态上对两个视频进行对比，并结合神经网络模型精准地提取各种模态下的特征信息，从而能够提高重复视频识别的准确度。
更具体的，本公开实施例中对待识别的第一视频和第二视频分别提取至少两种模态数据，其中至少两种模态数据包括但不限于视频关键帧和音频数据；然后根据至少两种模态数据、以及预设的特征提取模型，提取至少两种模态数据的特征信息；在根据至少两种模态数据的特征信息，综合确定第一视频和第二视频之间的综合相似度参数的数值；若第一视频和第二视频之间的综合相似度参数的数值大于预设相似度阈值，则确定第一视频和第二视频为重复视频。
而在在根据至少两种模态数据的特征信息，综合确定第一视频和第二视频之间的综合相似度参数的数值时，可以考虑视频类型对每一种模态数据的特征信息的相似度信息分配不同的权重，例如，当两种模态数据包括视频关键帧和音频数据时，对于解说类型视频可以提高音频特征相似度的权重，而对于影视剧类型的视频可以提高视频关键帧特征相似度的权重，进而根据每一种特征信息的相似度信息以及相应场景下每一种特征信息对应的预设权重，确定第一视频和第二视频之间的综合相似度参数的数值，提高重复视频识别的效果。
本公开实施例提供的重复视频的识别方法适用于如图1所示的应用场景，该应用场景包括：数据库101和电子设备102。其中电子设备102可以从数据库101获取待识别的第一视频和第二视频，进而服务器102可以执行如下操作：对待识别的第一视频提取第一多模态数据，其中，第一多模态数据包括至少两种模态数据；对待识别的第二视频提取第二多模态数据，其中，第二多模态数据包括至少两种模态数据，且第一多模态数据的各模态数据种类与第二多模态数据的各模态数据种类相同；综合第一多模态数据以及第二多模态数据的各模态数据，确定第一视频和第二视频之间的综合相似度参数的数值，具体的，电子设备102可以根据第一多模态数据的各模态数据、第二多模态数据的各模态数据、以及与各种模态数据种类对应的预设特征提取模型，分别提取各模态数据对应的特征信息；根据各模态数据对应的特征信息，确定第一视频和第二视频之间的综合相似度参数的数值；并且若第一视频和第二视频之间的综合相似度参数的数值大于预设相似度阈值，则将第一视频和第二视频识别为重复视频。
其中，电子设备102可以包括但不限于终端设备或服务器，终端设备包括但不限于手机、平板电脑、笔记本电脑、台式计算机、个人数字助理、智能穿戴设备、智能家居设备等，服务器包括但不限于独立的物理服务器，也可以是多个物理服务器构成的服务器集群或者分布式系统，还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、以及大数据和人工智能平台等基础云计算服务的云服务器等。
下面将结合具体实施例对本公开实施例提供的重复视频的识别方法进行详细说明。
参考图2，图2为本公开实施例提供的重复视频的识别方法流程示意图一。本实施例的方法可以应用在电子设备(例如，终端设备或服务器)中，该重复视频的识别方法包括：
S201、对待识别的第一视频提取第一多模态数据，其中，所述第一多模态数据包括至少两种模态数据。
在本实施例中，在识别第一视频和第二视频是否是重复视频时，需要对待识别的第一视频提取第一多模态数据，第一多模态数据包括至少两种模态数据，其中至少两种模态数据包括多种单模态数据，例如可以包括但不限于视频关键帧数据、音频数据、文字(例如字幕)数据等等。
S202、对待识别的第二视频提取第二多模态数据，其中，所述第二多模态数据包括至少两种模态数据，且所述第一多模态数据的各模态数据种类与所述第二多模态数据的各模态数据种类相同。
在本实施例中，同样的，对于第二视频也需要提取第二多模态数据，第二多模态数据包括至少两种模态数据，其中至少两种模态数据包括多种单模态数据，例如可以包括但不限于视频关键帧数据、音频数据、文字(例如字幕)数据等等，并且，第一多模态数据的各模态数据种类与第二多模态数据的各模态数据种类相同，例如，第一多模态数据包括视频关键帧数据和音频数据，则第二多模态数据相应地也包括视频关键帧数据和音频数据；再如第一多模态数据包括视频关键帧数据和文字数据，则第二多模态数据相应地也包括视频关键帧数据和文字数据。
需要说明的是，本实施例中不限定S201和S202之间的执行先后顺序。
S203、针对所述第一多模态数据的各模态数据、以及所述第二多模态数据的各模态数据，分别提取各模态数据对应的特征信息。
在本实施例中，可以基于与各种模态数据种类对应的预设特征提取模型，针对所述第一多模态数据的各模态数据、所述第二多模态数据的各模态数据分别提取各模态数据对应的特征信息。在一个实施例中，预设特征提取模型可以包括基于卷积神经网络训练的模型，或者其他模型，并且可以针对不同模态类型训练不同的预设特征提取模型，例如，对于视频关键帧数据，可以采用视频特征提取模型；对于音频数据，可以采用音频特征提取模型；对于文字数据，可以采用文字特征提取模型，等等。
本实施例中，为了对第一视频和第二视频进行比较，需要针对第一多模态数据的各模态数据和第二多模态数据的各模态数据均采用对应的预设特征提取模型，提取各模态数据对应的特征信息。
S204、根据所述各模态数据对应的特征信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值。
在本实施例中，基于上述过程中提取到的各模态数据对应的特征信息，对各模态数据对应的特征信息相似度进行综合分析，可以确定第一视频和所述第二视频之间的综合相似度参数的数值。其中综合分析的方式包括但不限于直接加和、加权求和、或者其他方式进行数据融合。
在一种可选实施例中，可以先分析第一视频和第二视频的每一种模态数据的特征信息的相似度，再将各种模态对应的相似度进行综合分析，得到综合相似度参数的数值。当然，也可采用其他的方式进行综合分析。由于本实施例中考虑了多模态数据得到综合相似度参数，因此综合相似度参数可以更加真实、准确、科学的反映出第一视频和第二视频之间的相似度。
S205、若所述第一视频和所述第二视频之间的综合相似度参数的数值大于预设相似度阈值，则将所述第一视频和所述第二视频识别为重复视频。
在本实施例中，可以预先设定预设相似度阈值，若综合相似度参数的数值大于预设相似度阈值，则可认为第一视频和第二视频为重复视频，否则，则不认为第一视频和第二视频为重复视频。其中预设相似度阈值可以根据实际情况进行设定，此处不做限制。
进一步的，在将所述第一视频和所述第二视频识别为重复视频后，还可包括：
删除所述第一视频和所述第二视频中的任一视频；或者，将所述第一视频和所述第二视频进行聚类；或者，在接收到与所述第一视频或所述第二视频相关的请求指令时，返回所述第一视频和所述第二视频中的任一视频。
在本实施例中，在将第一视频和第二视频识别为重复视频后，在一种可能的情况中，为了节约存储空间、避免数据冗余，可删除第一视频和第二视频中的任一视频，保留其中一个视频，可选的，可保留其中视频质量最好(例如分辨率最高)的视频；在另一种可能的情况中，还可将重复视频进行聚类，也即将多个重复视频划为一个类别，可以将多个重复视频存储在一起，或者将各重复视频的信息进行关联，以便对视频进行管理；在另一种可能的情况中，若识别第一视频和第二视频重复，则在接收到视频请求指令时，筛除重复视频，仅返回第一视频和第二视频中的任意一个视频，避免将重复视频返回给用户，避免用户重复观看，影响观看体验；在其他的可能情况中，在将第一视频和第二视频识别为重复视频后，还可进行进一步的验证，例如人工验证，从而确定第一视频和第二视频是相同的视频，保证识别的准确度，可根据验证结果来调试本发明的重复视频的识别方法中所涉及到的各个模型，提高模型准确度。
本实施例提供的重复视频的识别方法，通过对待识别的第一视频提取第一多模态数据，其中，第一多模态数据包括至少两种模态数据；对待识别的第二视频提取第二多模态数据，其中，第二多模态数据包括至少两种模态数据，且第一多模态数据的各模态数据种类与第二多模态数据的各模态数据种类相同；针对第一多模态数据的各模态数据、以及第二多模态数据的各模态数据、，分别提取各模态数据对应的特征信息；根据各模态数据对应的特征信息，确定第一视频和第二视频之间的综合相似度参数的数值；若第一视频和第二视频之间的综合相似度参数的数值大于预设相似度阈值，则将第一视频和第二视频识别为重复视频。本实施例中考虑了第一视频和第二视频的多种模态数据，可以准确提取各种模态下的特征信息，进而准确得到综合相似度参数，基于综合相似度参数来准确科学的识别重复视频，避免了基于单一模态特征相似度导致的不准确性。
在上述任一实施例的基础上，如图3所示，S204所述根据所述各模态数据对应的特征信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值，包括：
S301、分别获取所述第一视频和所述第二视频的每一相同种类模态数据的特征信息之间的相似度信息；
S302、根据所述每一相同种类模态数据的特征信息之间的相似度信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值。
在本实施例中，在获取到第一视频和第二视频各模态数据对应的特征信息后，可以针对相同种类模态数据获取特征信息之间的相似度信息，例如，若多模态数据包括视频关键帧数据和音频数据，则可以对于第一视频和第二视频的视频关键帧数据的特征信息之间获取相似度信息，对于第一视频和第二视频的音频数据的特征信息之间获取相似度信息，然后再基于这两种模态数据的特征信息之间的相似度信息，确定第一视频和第二视频之间的综合相似度参数的数值。
在一种可选实施例中，如图4所示，S302所述的根据所述每一相同种类模态数据的特征信息之间的相似度信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值，具体可包括：
S3021、根据所述第一视频和所述第二视频所属视频类型，获取各模态数据种类对应的预设权重；
S3022、根据所述每一相同种类模态数据的特征信息之间的相似度信息、以及所述各模态数据种类对应的预设权重，确定所述第一视频和所述第二视频之间的综合相似度参数的数值。
在本实施例中，可以对基于每一相同种类模态数据的特征信息之间的相似度信息进行加权分析，来确定第一视频和第二视频之间的综合相似度参数的数值，对于每一种类模态数据的特征信息之间的相似度信息可以预先设置预设权重，例如对于视频关键帧数据和音频数据两种模态数据，视频关键帧数据的特征信息之间的相似度信息a预设权重可以设置为0.7，音频数据的特征信息之间的相似度信息b预设权重可以设置为0.3，进而可将视频关键帧数据的特征信息之间的相似度信息和音频数据的特征信息之间的相似度信息进行加权求和，作为第一视频和第二视频之间的综合相似度参数的数值，例如，针对上述示例，第一视频和第二视频之间的综合相似度参数的数值C可以通过下述公式表示：
C＝0.7×a+0.3×b
此外，也可通过其他方式计算第一视频和第二视频之间的综合相似度参数的数值，本公开不对此进行限制。
需要说明的是，考虑到视频所属的场景不同，各种场景下对应的视频类型的模态数据的特征信息之间的相似度信息具有不同的重要程度，因此可分别对不同视频类型配置不同的预设权重，例如对于解说类型的视频可以提高音频特征相似度的权重，例如，视频关键帧数据对应相似度信息的预设权重可以为0.4，音频数据对应的相似度信息预设权重可以为0.6；而对于影视剧类型的视频可以提高视频关键帧特征相似度的权重，例如，视频关键帧数据对应相似度信息的预设权重可以为0.8，音频数据对应的相似度信息预设权重可以为0.2，进而可根据第一视频和第二视频所属视频类型，获取各模态数据种类对应的预设权重，再基于获取到的预设权重以及每一相同种类模态数据的特征信息之间的相似度信息，确定第一视频和第二视频之间的综合相似度参数的数值，从而进一步提高重复视频识别的效果。
在另一种可选实施例中，S302所述的根据所述每一相同种类模态数据的特征信息之间的相似度信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值，具体可包括：
根据所述每一相同种类模态数据的特征信息之间的相似度信息、以及所述第一视频和所述第二视频所属视频类型对应的预设相似度参数计算模型，确定所述第一视频和所述第二视频之间的综合相似度参数的数值。
在本实施例中，可以预先训练预设相似度参数计算模型，该模型可以根据各种视频类型，确定各种视频类型下的各模态数据种类对应的预设权重，从而根据对应的预设权重，确定第一视频和所述第二视频之间的综合相似度参数的数值。在一个实施例中，该模型的输入为每一相同种类模态数据的特征信息之间的相似度信息，例如第一视频和第二视频之间视频关键帧数据特征信息相似度为0.9，以及第一视频和第二视频之间音频数据特征信息相似度为0.8，该模型根据第一视频和第二视频的视频类型确定各种视频类型下各模态数据种类对应的预设权重，并根据第一视频和第二视频之间视频关键帧数据特征信息相似度、音频数据特征信息相似度、以及各模态数据种类对应的预设权重输出第一视频和第二视频之间的综合相似度参数的数值。可选的，预设相似度参数计算模型可以为感知机模型。进一步，本实施例中可以采用一层感知机模型，其中各种视频类型下各模态数据种类对应的预设权重可以包括用户输入的预设权重，在一层感知机模型输入第一视频和第二视频每一相同种类模态数据的特征信息之间的相似度信息之后，可根据第一视频和第二视频的视频类型，从用户输入的预设权重中确定第一视频和第二视频的视频类型对应的各模态数据种类对应的预设权重。
此外，本实施例中预设相似度参数计算模型也可以采用多层感知机模型，其中各种视频类型下各模态数据种类对应的预设权重可以为通过训练得到，如图5所示，对于上述实施例中的预设相似度参数计算模型，可以通过如下过程训练得到：
S401、获取第一训练数据，其中所述第一训练数据包括多对训练视频的每一相同种类模态数据的特征信息之间的相似度信息以及经标注的综合相似度参数的数值；
S402、根据所述第一训练数据训练相似度参数计算模型的初始模型，得到所述预设相似度参数计算模型。
在本实施例中，可以获取第一训练数据，第一训练数据包括多对训练视频的每一相同种类模态数据的特征信息之间的相似度信息以及经标注的综合相似度参数的数值，举例来讲，第一训练数据可以包括视频a1和视频a2之间视频关键帧数据特征信息的相似度值，视频a1和视频a2之间音频数据特征信息的相似度值，以及视频a1和视频a2之间的综合相似度参数的数值，其中视频a1和视频a2之间的综合相似度参数的数值可以是人工标注或者其他方式标注；视频b1和视频b2之间视频关键帧数据特征信息的相似度值，视频b1和视频b2之间音频数据特征信息的相似度值，以及视频b1和视频b2之间的综合相似度参数的数值，其中视频b1和视频b2之间的综合相似度参数的数值可以是人工标注或者其他方式标注，等等。在获取到第一训练数据后，即可对相似度参数计算模型的初始模型进行训练，得到最终的所述预设相似度参数计算模型，其中训练过程此处不做限制。通过训练可以使得预设相似度参数计算模型学习到不同视频类型对应的各模态数据种类对应的预设权重，以及如何基于每一相同种类模态数据的特征信息之间的相似度信息以及各模态数据种类对应的预设权重综合相似度参数计算综合相似度参数。
在上述任一实施例的基础上，所述至少两种模态数据包括视频关键帧数据和音频数据。当然，至少两种模态数据也可包括其他的模态数据，本实施例仅以视频关键帧数据和音频数据作为示例，其他模态数据的情况与此类似，此处不再赘述。
具体的，如图6所示，S203所述根据所述第一多模态数据的各模态数据、以及所述第二多模态数据的各模态数据，分别提取各模态数据对应的特征信息，包括：
S501、根据预设的视频特征提取模型，对所述第一视频和所述第二视频的视频关键帧数据分别提取关键帧特征信息；
S502、根据预设的音频特征提取模型，对所述第一视频和所述第二视频的音频数据分别提取音频特征信息。
在本实施例中，针对第一视频和第二视频的视频关键帧数据，可以采用预设的视频特征提取模型来分别提取关键帧特征信息；针对第一视频和第二视频的音频特征，可以采用预设的音频特征提取模型来分别提取音频特征信息。其中视频特征提取模型可以为任意视频特征提取模型，例如卷积神经网络模型；音频特征提取模型可以为任意音频特征提取模型，例如卷积神经网络模型，此处可不做限制。需要说明的是，本实施例中并不限制S501和S502执行的先后顺序。
在上述实施例的基础上，如图7所示，S502所述的根据预设的音频特征提取模型，对所述第一视频和所述第二视频的音频数据分别提取音频特征信息，包括：
S5021、将所述第一视频和所述第二视频的音频数据分别划分为多个音频片段；
S5022、根据所述音频特征提取模型，对于所述第一视频和所述第二视频的每一音频片段提取音频特征信息。
在本实施例中，对于第一视频的音频数据和第二视频的音频数据分别划分成多个音频片段，其中划分的规则相同，例如第一视频的音频数据和第二视频的音频数据对应的每段音频片段时长相同、起始时间相同等等，从而具有一定的可比较性。进一步的，分别将每个音频片段输入到音频特征提取模型获取每一音频片段提取音频特征信息。
进一步的，如图8所示，所述预设的视频特征提取模型可以通过如下过程训练得到的：
S601、获取第二训练数据，其中所述第二训练数据包括经过标注特征信息的视频帧；
S602、根据所述第二训练数据训练视频特征提取模型的初始模型，得到所述预设的视频特征提取模型。
在本实施例中，可以获取第二训练数据，第二训练数据包括多个经过标注特征信息的视频帧，根据第二训练数据对视频特征提取模型的初始模型进行训练，其中若视频特征提取模型为卷积神经网络模型，则训练过程可以采用对卷积神经网络模型训练的过程，例如，可包括参数初始化、前向传播、反向传播、微调等过程，此处不再一一赘述。
此外，如图9所示，所述音频特征提取模型可以通过如下过程训练得到的：
S611、获取第三训练数据，其中所述第三训练数据包括经过标注特征信息的音频；
S612、根据所述第三训练数据训练音频特征提取模型的初始模型，得到所述预设的音频特征提取模型。
在本实施例中，可以获取第三训练数据，第三训练数据包括多个经过标注特征信息的音频，根据第三训练数据对音频特征提取模型的初始模型进行训练，其中若音频特征提取模型为卷积神经网络模型，则训练过程可以采用对卷积神经网络模型训练的过程，例如，可包括参数初始化、前向传播、反向传播、微调等过程，此处不再一一赘述。
在上述实施例的基础上，如图10a所示，S301所述的分别获取所述第一视频和所述第二视频的每一相同种类模态数据的特征信息之间的相似度信息，具体可包括：
S701、将所述第一视频与所述第二视频的关键帧特征信息在时序上进行对齐；
S702、分别获取所述第一视频与所述第二视频的关键帧特征信息经过对齐后的每一对关键帧特征信息之间的相似度信息。
在本实施例中，假设第一视频和第二视频为重复视频，那么第一视频和第二视频也可能并不是完全相同，例如第一视频相对于第二视频仅仅是开头或结尾处少几帧关键帧，或多几帧关键帧，导致第一视频和第二视频的关键帧在时序上并不对齐，举例来讲，如图10b所示，第一视频相对于第二视频仅仅是开头处少两帧关键帧，那么第一视频的第一帧关键帧与第二视频的第三帧关键帧相对应。
为了使第一视频与第二视频的关键帧特征信息具有可比性，因此可先将第一视频与第二视频的关键帧在时序上进行对齐，进而使得第一视频与第二视频的关键帧特征信息在时序上进行对齐，然后再求每一对关键帧特征信息之间的相似度信息，例如上述举例中，如图10b所示，第一视频的第一帧关键帧与第二视频的第三帧关键帧对齐后，可依次获取第一视频的第一帧关键帧与第二视频的第三帧关键帧特征信息之间的相似度信息，第一视频的第二帧关键帧与第二视频的第四帧关键帧特征信息之间的相似度信息，第一视频的第三帧关键帧与第二视频的第五帧关键帧特征信息之间的相似度信息……以此类推，此处不再一一举例。
在一种可选实施例中，如图11所示，S701所述的将所述第一视频与所述第二视频的关键帧特征信息在时序上进行对齐，具体可包括：
S7011、将所述第一视频和所述第二视频中的一个视频的任一关键帧确定为基准关键帧；
S7012、分别获取所述基准关键帧的关键帧特征信息与另一视频的每一关键帧的关键帧特征信息之间的相似度信息；
S7013、将所述另一视频中对应相似度信息数值最大的视频帧确定为与所述基准关键帧对应的目标视频帧；
S7014、将所述基准关键帧和所述目标视频帧的关键帧特征信息确定为对齐后的基准关键帧特征信息对；
S7015、根据所述基准关键帧特征信息对，将所述第一视频与所述第二视频的关键帧特征信息在时序上进行对齐。
在本实施例中，在对齐过程中可能存在至少以下几种情况：
第一种情况，第一视频相对于第二视频开头处少几帧关键帧，也即第二视频相对于第一视频开头处多几帧关键帧；
第二种情况，第一视频相对于第二视频开头处多几帧关键帧，也即第二视频相对于第一视频开头处少几帧关键帧；
第三种情况，第一视频的第一关键帧与第二视频的第一关键帧相对应，也即第一视频相对于第二视频开头处不多关键帧、也不少关键帧，在时序上本来就是对应的。
为了针对上述三种情况实现第一视频与第二视频的关键帧特征信息在时序上进行对齐，可以从第一视频和第二视频中一个视频选择任一关键帧作为基准关键帧，例如将第一视频的第一关键帧作为基准关键帧，然后分别获取基准关键帧的关键帧特征信息与第二视频每一关键帧的关键帧特征信息之间的相似度信息，假设第一视频的基准关键帧的关键帧特征信息与第二视频第三关键帧的关键帧特征信息之间的相似度信息最大，则可确定第一视频的基准关键帧与第二视频第三关键帧的关键帧时序上对应，进而将基准关键帧和第三视频帧的关键帧特征信息确定为对齐后的基准关键帧特征信息对，再根据所述基准关键帧特征信息对，将第一视频与第二视频的关键帧特征信息在时序上进行对齐，也即第一视频的基准关键帧与第二视频第三关键帧之后的关键帧在时序上一一对应。当然也可不采用第一视频的第一关键帧作为基准关键帧，尤其是对于第二种情况，中间的某一关键帧在两个视频中同时存在的可能性更大一些，可以采用中间的某一关键帧作为基准关键帧，当然也可采用第二视频的第一关键帧或者中间的某一关键帧作为基准关键帧。
需要是说明的是，为了提高第一视频与第二视频的关键帧特征信息在时序上进行对齐的准确性，可更换基准关键帧重复S7011-S7015的过程，最终将第一视频与第二视频的关键帧特征信息在时序上精确对齐。举例来说，假设第一次以第一视频的第一关键帧作为基准关键帧，执行S7011-S7015的过程完成将第一视频与第二视频的关键帧特征信息在时序上进行对齐，得到一个对齐结果；第二次以第一视频的另一个关键帧作为基准关键帧，或者以第二视频的第一关键帧或其他关键帧作为基准关键帧，再执行S7011-S7015的过程，又得到一个对齐结果；若两次对齐结果相同，则说明对齐结果准确性较高，可以采用该对齐结果；若不相同，则可再更换基准关键帧一次或多次，重复S7011-S7015的过程，比较各次对齐结果，最后选择相同次数最多的对齐结果作为最终的对齐结果。
在上述实施例的基础上，S301所述的分别获取所述第一视频和所述第二视频的每一相同种类模态数据的特征信息之间的相似度信息，包括：
对于所述第一视频和所述第二视频的音频片段，按照音频片段的时序顺序依次获取相对应的音频片段的音频特征信息之间的相似度信息。
在本实施例中，在获取第一视频和第二视频的音频特征信息之间的相似度信息时，也可按照第一视频和第二视频的音频片段在时序上对照关系来依次获取，例如获取第一视频的第一音频片段与第二视频的第一音频片段的音频特征信息之间的相似度信息，获取第一视频的第二音频片段与第二视频的第二音频片段的音频特征信息之间的相似度信息，第一视频的第三音频片段与第二视频的第三音频片段的音频特征信息之间的相似度信息……依次类推，此处不再赘述。
可选的，可以在S7011-S7015完成关键帧特征信息在时序上对齐后再按照时间对应性进行音频片段的分割，进而使得音频片段的分割也是在时间上对齐，提高音频特征信息之间的相似度信息获取的准确性。
上述各实施例中考虑了第一视频和第二视频的多种模态数据，可以准确提取各种模态下的特征信息，进而准确得到综合相似度参数，基于综合相似度参数来准确科学的识别重复视频，避免了基于单一模态特征相似度导致的不准确性。
对应于上文实施例的重复视频的识别方法，图12为本公开实施例提供的重复视频的识别设备的结构框图。为了便于说明，仅示出了与本公开实施例相关的部分。参照图12，所述重复视频的识别设备800包括：提取单元801、第一处理单元802、第二处理单元803以及识别单元804。
提取单元801，用于对待识别的第一视频提取第一多模态数据，其中，所述第一多模态数据包括至少两种模态数据；以及对待识别的第二视频提取第二多模态数据，其中，所述第二多模态数据包括至少两种模态数据，且所述第一多模态数据的各模态数据种类与所述第二多模态数据的各模态数据种类相同；
第一处理单元802，用于针对所述第一多模态数据的各模态数据、以及所述第二多模态数据的各模态数据，分别提取各模态数据对应的特征信息；
第二处理单元803，用于根据所述各模态数据对应的特征信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值；
识别单元804，用于在所述第一视频和所述第二视频之间的综合相似度参数的数值大于预设相似度阈值时，将所述第一视频和所述第二视频识别为重复视频。
根据本公开的一个或多个实施例，所述第二处理单元803在根据所述各模态数据对应的特征信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值时，用于：
分别获取所述第一视频和所述第二视频的每一相同种类模态数据的特征信息之间的相似度信息；
根据所述每一相同种类模态数据的特征信息之间的相似度信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值。
根据本公开的一个或多个实施例，所述第二处理单元803在根据所述每一相同种类模态数据的特征信息之间的相似度信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值时，用于：
根据所述第一视频和所述第二视频所属视频类型，获取各模态数据种类对应的预设权重；
根据所述每一相同种类模态数据的特征信息之间的相似度信息、以及所述各模态数据种类对应的预设权重，确定所述第一视频和所述第二视频之间的综合相似度参数的数值。
根据本公开的一个或多个实施例，所述第二处理单元803在根据所述每一相同种类模态数据的特征信息之间的相似度信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值时，用于：
根据所述每一相同种类模态数据的特征信息之间的相似度信息、以及所述第一视频和所述第二视频所属视频类型对应的预设相似度参数计算模型，确定所述第一视频和所述第二视频之间的综合相似度参数的数值。
根据本公开的一个或多个实施例，所述至少两种模态数据包括视频关键帧数据和音频数据；
所述第一处理单元802在针对所述第一多模态数据的各模态数据、以及所述第二多模态数据的各模态数据，分别提取各模态数据对应的特征信息时，用于：
根据预设的视频特征提取模型，对所述第一视频和所述第二视频的视频关键帧数据分别提取关键帧特征信息；
根据预设的音频特征提取模型，对所述第一视频和所述第二视频的音频数据分别提取音频特征信息。
根据本公开的一个或多个实施例，所述第一处理单元802在根据预设的音频特征提取模型，对所述第一视频和所述第二视频的音频数据分别提取音频特征信息时，用于：
将所述第一视频和所述第二视频的音频数据分别划分为多个音频片段；
根据所述音频特征提取模型，对于所述第一视频和所述第二视频的每一音频片段提取音频特征信息。
根据本公开的一个或多个实施例，所述第二处理单元803在分别获取所述第一视频和所述第二视频的每一相同种类模态数据的特征信息之间的相似度信息时，用于：
将所述第一视频与所述第二视频的关键帧特征信息在时序上进行对齐；
分别获取所述第一视频与所述第二视频的关键帧特征信息经过对齐后的每一对关键帧特征信息之间的相似度信息。
根据本公开的一个或多个实施例，所述第二处理单元803在将所述第一视频与所述第二视频的关键帧特征信息在时序上进行对齐时，用于：
将所述第一视频和所述第二视频中的一个视频的任一关键帧确定为基准关键帧；
分别获取所述基准关键帧的关键帧特征信息与另一视频的每一关键帧的关键帧特征信息之间的相似度信息；
将所述另一视频中对应相似度信息数值最大的视频帧确定为与所述基准关键帧对应的目标视频帧；
将所述基准关键帧和所述目标视频帧的关键帧特征信息确定为对齐后的基准关键帧特征信息对；以及
根据所述基准关键帧特征信息对，将所述第一视频与所述第二视频的关键帧特征信息在时序上进行对齐。
根据本公开的一个或多个实施例，所述第二处理单元803在分别获取所述第一视频和所述第二视频的每一相同种类模态数据的特征信息之间的相似度信息时，用于：
对于所述第一视频和所述第二视频的音频片段，按照音频片段的时序顺序依次获取相对应的音频片段的音频特征信息之间的相似度信息。
根据本公开的一个或多个实施例，所述设备还包括训练单元，用于使预设相似度参数计算模型通过如下过程训练得到：
获取第一训练数据，其中所述第一训练数据包括多对训练视频的每一相同种类模态数据的特征信息之间的相似度信息以及经标注的综合相似度参数的数值；
根据所述第一训练数据训练相似度参数计算模型的初始模型，得到所述预设相似度参数计算模型。
根据本公开的一个或多个实施例，所述训练单元还用于使预设的视频特征提取模型是通过如下过程训练得到的：
获取第二训练数据，其中所述第二训练数据包括经过标注特征信息的视频帧；
根据所述第二训练数据训练视频特征提取模型的初始模型，最终得到所述预设的视频特征提取模型；和/或
所述音频特征提取模型是通过如下过程训练得到的：
获取第三训练数据，其中所述第三训练数据包括经过标注特征信息的音频；
根据所述第三训练数据训练音频特征提取模型的初始模型，得到所述预设的音频特征提取模型。
根据本公开的一个或多个实施例，所述识别单元804在将所述第一视频和所述第二视频识别为重复视频后，还用于：
删除所述第一视频和所述第二视频中的任一视频；或者
将所述第一视频和所述第二视频进行聚类；或者
在接收到与所述第一视频或所述第二视频相关的请求指令时，返回所述第一视频和所述第二视频中的任一视频。
本实施例提供的重复视频的识别设备，可用于执行上述方法实施例的技术方案，其实现原理和技术效果类似，本实施例此处不再赘述。
参考图13，其示出了适于用来实现本公开实施例的电子设备900的结构示意图，该电子设备900可以为终端设备或服务器。其中，终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、个人数字助理(Personal Digital Assistant，简称PDA)、平板电脑(Portable Android Device，简称PAD)、便携式多媒体播放器(Portable MediaPlayer，简称PMP)、车载终端(例如车载导航终端)、可穿戴电子设备等等的移动终端以及诸如数字TV、台式计算机、智能家居设备等等的固定终端。图13示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图13所示，电子设备900可以包括处理装置(例如中央处理器、图形处理器等)901，其可以根据存储在只读存储器(Read Only Memory，简称ROM)902中的程序或者从存储装置908加载到随机访问存储器(Random Access Memory，简称RAM)903中的程序而执行各种适当的动作和处理。在RAM 903中，还存储有电子设备900操作所需的各种程序和数据。处理装置901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。
通常，以下装置可以连接至I/O接口905：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置906；包括例如液晶显示器(Liquid CrystalDisplay，简称LCD)、扬声器、振动器等的输出装置907；包括例如磁带、硬盘等的存储装置908；以及通信装置909。通信装置909可以允许电子设备900与其他设备进行无线或有线通信以交换数据。虽然图13示出了具有各种装置的电子设备900，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置909从网络上被下载和安装，或者从存储装置908被安装，或者从ROM902被安装。在该计算机程序被处理装置901执行时，执行本公开实施例的方法中限定的上述功能。
需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备执行上述实施例所示的方法。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LocalArea Network，简称LAN)或广域网(Wide Area Network，简称WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本身的限定，例如，第一获取单元还可以被描述为“获取至少两个网际协议地址的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
第一方面，根据本公开的一个或多个实施例，提供了一种重复视频的识别方法，包括：
对待识别的第一视频提取第一多模态数据，其中，所述第一多模态数据包括至少两种模态数据；
对待识别的第二视频提取第二多模态数据，其中，所述第二多模态数据包括至少两种模态数据，且所述第一多模态数据的各模态数据种类与所述第二多模态数据的各模态数据种类相同；
针对所述第一多模态数据的各模态数据、以及所述第二多模态数据的各模态数据，分别提取各模态数据对应的特征信息；
根据所述各模态数据对应的特征信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值；
若所述第一视频和所述第二视频之间的综合相似度参数的数值大于预设相似度阈值，则将所述第一视频和所述第二视频识别为重复视频。
根据本公开的一个或多个实施例，所述根据所述各模态数据对应的特征信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值，包括：
分别获取所述第一视频和所述第二视频的每一相同种类模态数据的特征信息之间的相似度信息；
根据所述每一相同种类模态数据的特征信息之间的相似度信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值。
根据本公开的一个或多个实施例，所述根据所述每一相同种类模态数据的特征信息之间的相似度信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值，包括：
根据所述第一视频和所述第二视频所属视频类型，获取各模态数据种类对应的预设权重；
根据所述每一相同种类模态数据的特征信息之间的相似度信息、以及所述各模态数据种类对应的预设权重，确定所述第一视频和所述第二视频之间的综合相似度参数的数值。
根据本公开的一个或多个实施例，所述根据所述每一相同种类模态数据的特征信息之间的相似度信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值，包括：
根据所述每一相同种类模态数据的特征信息之间的相似度信息、以及所述第一视频和所述第二视频所属视频类型对应的预设相似度参数计算模型，确定所述第一视频和所述第二视频之间的综合相似度参数的数值。
根据本公开的一个或多个实施例，所述至少两种模态数据包括视频关键帧数据和音频数据；
所述针对所述第一多模态数据的各模态数据、以及所述第二多模态数据的各模态数据，分别提取各模态数据对应的特征信息，包括：
根据预设的视频特征提取模型，对所述第一视频和所述第二视频的视频关键帧数据分别提取关键帧特征信息；
根据预设的音频特征提取模型，对所述第一视频和所述第二视频的音频数据分别提取音频特征信息。
根据本公开的一个或多个实施例，所述根据预设的音频特征提取模型，对所述第一视频和所述第二视频的音频数据分别提取音频特征信息，包括：
将所述第一视频和所述第二视频的音频数据分别划分为多个音频片段；
根据所述音频特征提取模型，对于所述第一视频和所述第二视频的每一音频片段提取音频特征信息。
根据本公开的一个或多个实施例，所述分别获取所述第一视频和所述第二视频的每一相同种类模态数据的特征信息之间的相似度信息，包括：
将所述第一视频与所述第二视频的关键帧特征信息在时序上进行对齐；
分别获取所述第一视频与所述第二视频的关键帧特征信息经过对齐后的每一对关键帧特征信息之间的相似度信息。
根据本公开的一个或多个实施例，所述将所述第一视频与所述第二视频的关键帧特征信息在时序上进行对齐，包括：
将所述第一视频和所述第二视频中的一个视频的任一关键帧确定为基准关键帧；
分别获取所述基准关键帧的关键帧特征信息与另一视频的每一关键帧的关键帧特征信息之间的相似度信息；
将所述另一视频中对应相似度信息数值最大的视频帧确定为与所述基准关键帧对应的目标视频帧；
将所述基准关键帧和所述目标视频帧的关键帧特征信息确定为对齐后的基准关键帧特征信息对；以及
根据所述基准关键帧特征信息对，将所述第一视频与所述第二视频的关键帧特征信息在时序上进行对齐。
根据本公开的一个或多个实施例，所述分别获取所述第一视频和所述第二视频的每一相同种类模态数据的特征信息之间的相似度信息，包括：
对于所述第一视频和所述第二视频的音频片段，按照音频片段的时序顺序依次获取相对应的音频片段的音频特征信息之间的相似度信息。
根据本公开的一个或多个实施例，所述预设相似度参数计算模型通过如下过程训练得到：
获取第一训练数据，其中所述第一训练数据包括多对训练视频的每一相同种类模态数据的特征信息之间的相似度信息以及经标注的综合相似度参数的数值；
根据所述第一训练数据训练相似度参数计算模型的初始模型，得到所述预设相似度参数计算模型。
根据本公开的一个或多个实施例，所述预设的视频特征提取模型是通过如下过程训练得到的：
获取第二训练数据，其中所述第二训练数据包括经过标注特征信息的视频帧；
根据所述第二训练数据训练视频特征提取模型的初始模型，最终得到所述预设的视频特征提取模型；和/或
所述音频特征提取模型是通过如下过程训练得到的：
获取第三训练数据，其中所述第三训练数据包括经过标注特征信息的音频；
根据所述第三训练数据训练音频特征提取模型的初始模型，得到所述预设的音频特征提取模型。
根据本公开的一个或多个实施例，所述将所述第一视频和所述第二视频识别为重复视频后，还包括：
删除所述第一视频和所述第二视频中的任一视频；或者
将所述第一视频和所述第二视频进行聚类；或者
在接收到与所述第一视频或所述第二视频相关的请求指令时，返回所述第一视频和所述第二视频中的任一视频。
第二方面，根据本公开的一个或多个实施例，提供了一种重复视频的识别设备，包括：
提取单元，用于对待识别的第一视频提取第一多模态数据，其中，所述第一多模态数据包括至少两种模态数据；以及对待识别的第二视频提取第二多模态数据，其中，所述第二多模态数据包括至少两种模态数据，且所述第一多模态数据的各模态数据种类与所述第二多模态数据的各模态数据种类相同；
第一处理单元，用于针对所述第一多模态数据的各模态数据、以及所述第二多模态数据的各模态数据，分别提取各模态数据对应的特征信息；
第二处理单元，用于根据所述各模态数据对应的特征信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值；
识别单元，用于在所述第一视频和所述第二视频之间的综合相似度参数的数值大于预设相似度阈值时，将所述第一视频和所述第二视频识别为重复视频。
根据本公开的一个或多个实施例，所述第二处理单元在根据所述各模态数据对应的特征信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值时，用于：
分别获取所述第一视频和所述第二视频的每一相同种类模态数据的特征信息之间的相似度信息；
根据所述每一相同种类模态数据的特征信息之间的相似度信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值。
根据本公开的一个或多个实施例，所述第二处理单元在根据所述每一相同种类模态数据的特征信息之间的相似度信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值时，用于：
根据所述第一视频和所述第二视频所属视频类型，获取各模态数据种类对应的预设权重；
根据所述每一相同种类模态数据的特征信息之间的相似度信息、以及所述各模态数据种类对应的预设权重，确定所述第一视频和所述第二视频之间的综合相似度参数的数值。
根据本公开的一个或多个实施例，所述第二处理单元在根据所述每一相同种类模态数据的特征信息之间的相似度信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值时，用于：
根据所述每一相同种类模态数据的特征信息之间的相似度信息、以及所述第一视频和所述第二视频所属视频类型对应的预设相似度参数计算模型，确定所述第一视频和所述第二视频之间的综合相似度参数的数值。
根据本公开的一个或多个实施例，所述至少两种模态数据包括视频关键帧数据和音频数据；
所述第一处理单元在针对所述第一多模态数据的各模态数据、以及所述第二多模态数据的各模态数据，分别提取各模态数据对应的特征信息时，用于：
根据预设的视频特征提取模型，对所述第一视频和所述第二视频的视频关键帧数据分别提取关键帧特征信息；
根据预设的音频特征提取模型，对所述第一视频和所述第二视频的音频数据分别提取音频特征信息。
根据本公开的一个或多个实施例，所述第一处理单元在根据预设的音频特征提取模型，对所述第一视频和所述第二视频的音频数据分别提取音频特征信息时，用于：
将所述第一视频和所述第二视频的音频数据分别划分为多个音频片段；
根据所述音频特征提取模型，对于所述第一视频和所述第二视频的每一音频片段提取音频特征信息。
根据本公开的一个或多个实施例，所述第二处理单元在分别获取所述第一视频和所述第二视频的每一相同种类模态数据的特征信息之间的相似度信息时，用于：
将所述第一视频与所述第二视频的关键帧特征信息在时序上进行对齐；
分别获取所述第一视频与所述第二视频的关键帧特征信息经过对齐后的每一对关键帧特征信息之间的相似度信息。
根据本公开的一个或多个实施例，所述第二处理单元在将所述第一视频与所述第二视频的关键帧特征信息在时序上进行对齐时，用于：
将所述第一视频和所述第二视频中的一个视频的任一关键帧确定为基准关键帧；
分别获取所述基准关键帧的关键帧特征信息与另一视频的每一关键帧的关键帧特征信息之间的相似度信息；
将所述另一视频中对应相似度信息数值最大的视频帧确定为与所述基准关键帧对应的目标视频帧；
将所述基准关键帧和所述目标视频帧的关键帧特征信息确定为对齐后的基准关键帧特征信息对；以及
根据所述基准关键帧特征信息对，将所述第一视频与所述第二视频的关键帧特征信息在时序上进行对齐。
根据本公开的一个或多个实施例，所述第二处理单元在分别获取所述第一视频和所述第二视频的每一相同种类模态数据的特征信息之间的相似度信息时，用于：
对于所述第一视频和所述第二视频的音频片段，按照音频片段的时序顺序依次获取相对应的音频片段的音频特征信息之间的相似度信息。
根据本公开的一个或多个实施例，所述设备还包括训练单元，用于使预设相似度参数计算模型通过如下过程训练得到：
获取第一训练数据，其中所述第一训练数据包括多对训练视频的每一相同种类模态数据的特征信息之间的相似度信息以及经标注的综合相似度参数的数值；
根据所述第一训练数据训练相似度参数计算模型的初始模型，得到所述预设相似度参数计算模型。
根据本公开的一个或多个实施例，所述训练单元还用于使预设的视频特征提取模型是通过如下过程训练得到的：
获取第二训练数据，其中所述第二训练数据包括经过标注特征信息的视频帧；
根据所述第二训练数据训练视频特征提取模型的初始模型，最终得到所述预设的视频特征提取模型；和/或
所述音频特征提取模型是通过如下过程训练得到的：
获取第三训练数据，其中所述第三训练数据包括经过标注特征信息的音频；
根据所述第三训练数据训练音频特征提取模型的初始模型，得到所述预设的音频特征提取模型。
根据本公开的一个或多个实施例，所述识别单元在将所述第一视频和所述第二视频识别为重复视频后，还用于：
删除所述第一视频和所述第二视频中的任一视频；或者
将所述第一视频和所述第二视频进行聚类；或者
在接收到与所述第一视频或所述第二视频相关的请求指令时，返回所述第一视频和所述第二视频中的任一视频。
第三方面，根据本公开的一个或多个实施例，提供了一种电子设备，包括：至少一个处理器和存储器；
所述存储器存储计算机执行指令；
所述至少一个处理器执行所述存储器存储的计算机执行指令，使得所述至少一个处理器执行如上第一方面以及第一方面各种可能的设计所述的重复视频的识别方法。
第四方面，根据本公开的一个或多个实施例，提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机执行指令，当处理器执行所述计算机执行指令时，实现如上第一方面以及第一方面各种可能的设计所述的重复视频的识别方法。
第五方面，根据本公开的一个或多个实施例，提供了一种计算机程序产品，包括计算机指令，该计算机指令被处理器执行时实现如上第一方面以及第一方面各种可能的设计所述的重复视频的识别方法。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外，虽然采用特定次序描绘了各操作，但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

Claims (14)

1.一种重复视频的识别方法，其特征在于，包括：
对待识别的第一视频提取第一多模态数据，其中，所述第一多模态数据包括至少两种模态数据；
对待识别的第二视频提取第二多模态数据，其中，所述第二多模态数据包括至少两种模态数据，且所述第一多模态数据的各模态数据种类与所述第二多模态数据的各模态数据种类相同；
针对所述第一多模态数据的各模态数据、以及所述第二多模态数据的各模态数据，分别提取各模态数据对应的特征信息；
根据所述各模态数据对应的特征信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值；
若所述第一视频和所述第二视频之间的综合相似度参数的数值大于预设相似度阈值，则将所述第一视频和所述第二视频识别为重复视频。
2.根据权利要求1所述的方法，其特征在于，所述根据所述各模态数据对应的特征信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值，包括：
分别获取所述第一视频和所述第二视频的每一相同种类模态数据的特征信息之间的相似度信息；
根据所述每一相同种类模态数据的特征信息之间的相似度信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值。
3.根据权利要求2所述的方法，其特征在于，所述根据所述每一相同种类模态数据的特征信息之间的相似度信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值，包括：
根据所述第一视频和所述第二视频所属视频类型，获取各模态数据种类对应的预设权重；
根据所述每一相同种类模态数据的特征信息之间的相似度信息、以及所述各模态数据种类对应的预设权重，确定所述第一视频和所述第二视频之间的综合相似度参数的数值。
4.根据权利要求2所述的方法，其特征在于，所述根据所述每一相同种类模态数据的特征信息之间的相似度信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值，包括：
根据所述每一相同种类模态数据的特征信息之间的相似度信息、以及所述第一视频和所述第二视频所属视频类型对应的预设相似度参数计算模型，确定所述第一视频和所述第二视频之间的综合相似度参数的数值。
5.根据权利要求2-4任一项所述的方法，其特征在于，所述至少两种模态数据包括视频关键帧数据和音频数据；
所述根据所述第一多模态数据的各模态数据、以及所述第二多模态数据的各模态数据，分别提取各模态数据对应的特征信息，包括：
根据预设的视频特征提取模型，对所述第一视频和所述第二视频的视频关键帧数据分别提取关键帧特征信息；
根据预设的音频特征提取模型，对所述第一视频和所述第二视频的音频数据分别提取音频特征信息。
6.根据权利要求5所述的方法，其特征在于，所述根据预设的音频特征提取模型，对所述第一视频和所述第二视频的音频数据分别提取音频特征信息，包括：
将所述第一视频和所述第二视频的音频数据分别划分为多个音频片段；
根据所述音频特征提取模型，对于所述第一视频和所述第二视频的每一音频片段提取音频特征信息。
7.根据权利要求5所述的方法，其特征在于，所述分别获取所述第一视频和所述第二视频的每一相同种类模态数据的特征信息之间的相似度信息，包括：
将所述第一视频与所述第二视频的关键帧特征信息在时序上进行对齐；
分别获取所述第一视频与所述第二视频的关键帧特征信息经过对齐后的每一对关键帧特征信息之间的相似度信息。
8.根据权利要求7所述的方法，其特征在于，所述将所述第一视频与所述第二视频的关键帧特征信息在时序上进行对齐，包括：
将所述第一视频和所述第二视频中的一个视频的任一关键帧确定为基准关键帧；
分别获取所述基准关键帧的关键帧特征信息与另一视频的每一关键帧的关键帧特征信息之间的相似度信息；
将所述另一视频中对应相似度信息数值最大的视频帧确定为与所述基准关键帧对应的目标视频帧；
将所述基准关键帧和所述目标视频帧的关键帧特征信息确定为对齐后的基准关键帧特征信息对；以及
根据所述基准关键帧特征信息对，将所述第一视频与所述第二视频的关键帧特征信息在时序上进行对齐。
9.根据权利要求6所述的方法，其特征在于，所述分别获取所述第一视频和所述第二视频的每一相同种类模态数据的特征信息之间的相似度信息，包括：
对于所述第一视频和所述第二视频的音频片段，按照音频片段的时序顺序依次获取相对应的音频片段的音频特征信息之间的相似度信息。
10.根据权利要求1-4任一项所述的方法，其特征在于，所述将所述第一视频和所述第二视频识别为重复视频后，还包括：
删除所述第一视频和所述第二视频中的任一视频；或者
将所述第一视频和所述第二视频进行聚类；或者
在接收到与所述第一视频或所述第二视频相关的请求指令时，返回所述第一视频和所述第二视频中的任一视频。
11.一种重复视频的识别设备，其特征在于，包括：
提取单元，用于对待识别的第一视频提取第一多模态数据，其中，所述第一多模态数据包括至少两种模态数据；以及对待识别的第二视频提取第二多模态数据，其中，所述第二多模态数据包括至少两种模态数据，且所述第一多模态数据的各模态数据种类与所述第二多模态数据的各模态数据种类相同；
第一处理单元，用于针对所述第一多模态数据的各模态数据、以及所述第二多模态数据的各模态数据，分别提取各模态数据对应的特征信息；
第二处理单元，用于根据所述各模态数据对应的特征信息，确定所述第一视频和所述第二视频之间的综合相似度参数的数值；
识别单元，用于在所述第一视频和所述第二视频之间的综合相似度参数的数值大于预设相似度阈值时，将所述第一视频和所述第二视频识别为重复视频。
12.一种电子设备，其特征在于，包括：至少一个处理器和存储器；
所述存储器存储计算机执行指令；
所述至少一个处理器执行所述存储器存储的计算机执行指令，使得所述至少一个处理器执行如权利要求1-10任一项所述的方法。
13.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有计算机执行指令，当处理器执行所述计算机执行指令时，实现如权利要求1-10任一项所述的方法。
14.一种计算机程序产品，包括计算机指令，其特征在于，该计算机指令被处理器执行时实现权利要求1-10任一项所述的方法。
CN202110521581.3A 2021-05-13 2021-05-13 重复视频的识别方法、设备、储存介质及计算机程序产品 Pending CN115346145A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110521581.3A CN115346145A (zh) 2021-05-13 2021-05-13 重复视频的识别方法、设备、储存介质及计算机程序产品

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110521581.3A CN115346145A (zh) 2021-05-13 2021-05-13 重复视频的识别方法、设备、储存介质及计算机程序产品

Publications (1)

Publication Number Publication Date
CN115346145A true CN115346145A (zh) 2022-11-15

Family

ID=83947123

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110521581.3A Pending CN115346145A (zh) 2021-05-13 2021-05-13 重复视频的识别方法、设备、储存介质及计算机程序产品

Country Status (1)

Country Link
CN (1) CN115346145A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116935272A (zh) * 2023-07-12 2023-10-24 天翼爱音乐文化科技有限公司 一种视频内容检测方法、装置、电子设备和存储介质
CN116939197A (zh) * 2023-09-15 2023-10-24 海看网络科技(山东)股份有限公司 基于音视频的直播节目首播和重播内容一致性监测方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116935272A (zh) * 2023-07-12 2023-10-24 天翼爱音乐文化科技有限公司 一种视频内容检测方法、装置、电子设备和存储介质
CN116935272B (zh) * 2023-07-12 2024-05-28 天翼爱音乐文化科技有限公司 一种视频内容检测方法、装置、电子设备和存储介质
CN116939197A (zh) * 2023-09-15 2023-10-24 海看网络科技(山东)股份有限公司 基于音视频的直播节目首播和重播内容一致性监测方法

Similar Documents

Publication Publication Date Title
CN110321958B (zh) 神经网络模型的训练方法、视频相似度确定方法
CN108427939B (zh) 模型生成方法和装置
EP3893125A1 (en) Method and apparatus for searching video segment, device, medium and computer program product
CN112559800B (zh) 用于处理视频的方法、装置、电子设备、介质和产品
CN111078940B (zh) 图像处理方法、装置、计算机存储介质及电子设备
CN110674349B (zh) 视频poi识别方法、装置及电子设备
WO2022252881A1 (zh) 图像处理方法、装置、可读介质和电子设备
CN110209658B (zh) 数据清洗方法和装置
CN110287816B (zh) 车门动作检测方法、装置和计算机可读存储介质
CN115346145A (zh) 重复视频的识别方法、设备、储存介质及计算机程序产品
CN110941978A (zh) 一种未识别身份人员的人脸聚类方法、装置及存储介质
CN111897950A (zh) 用于生成信息的方法和装置
CN112883968A (zh) 图像字符识别方法、装置、介质及电子设备
CN113610034B (zh) 识别视频中人物实体的方法、装置、存储介质及电子设备
CN112990176B (zh) 书写质量评价方法、装置和电子设备
CN113033707B (zh) 视频分类方法、装置、可读介质及电子设备
CN112055258B (zh) 加载直播画面的时延测试方法、装置、电子设备及存储介质
CN110765304A (zh) 图像处理方法、装置、电子设备及计算机可读介质
CN111832354A (zh) 目标对象年龄识别方法、装置及电子设备
CN111460214B (zh) 分类模型训练方法、音频分类方法、装置、介质及设备
CN115359400A (zh) 视频识别方法、装置、介质及电子设备
CN113971402A (zh) 内容识别方法、装置、介质及电子设备
CN112115740B (zh) 用于处理图像的方法和装置
CN112699687A (zh) 内容编目方法、装置和电子设备
CN114640826B (zh) 数据处理方法、装置、可读介质以及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination