CN115757869A - 视频处理方法、装置、电子设备及介质 - Google Patents
视频处理方法、装置、电子设备及介质 Download PDFInfo
- Publication number
- CN115757869A CN115757869A CN202211485695.8A CN202211485695A CN115757869A CN 115757869 A CN115757869 A CN 115757869A CN 202211485695 A CN202211485695 A CN 202211485695A CN 115757869 A CN115757869 A CN 115757869A
- Authority
- CN
- China
- Prior art keywords
- video
- identified
- determining
- image frame
- recall
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 34
- 238000012545 processing Methods 0.000 title claims abstract description 26
- 238000000034 method Methods 0.000 claims abstract description 24
- 238000004590 computer program Methods 0.000 claims description 11
- 238000013473 artificial intelligence Methods 0.000 abstract description 7
- 238000005516 engineering process Methods 0.000 description 12
- 239000011159 matrix material Substances 0.000 description 11
- 238000004891 communication Methods 0.000 description 8
- 238000004422 calculation algorithm Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 238000000605 extraction Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000003924 mental process Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种视频处理方法、装置、电子设备及介质,涉及人工智能技术领域,尤其涉及智能搜索领域。可应用于视频搜索场景或者视频推荐场景。具体实现方案为:从候选视频聚类簇中为待识别视频选择所属的目标视频聚类簇;其中,所述候选视频聚类簇通过对至少两个候选视频进行聚类得到;根据至少两个待识别视频所属的目标视频聚类簇,确定所述至少两个待识别视频是否重复。本公开可以视频查重的时效性和准确性。
Description
技术领域
本公开涉及人工智能技术领域,尤其涉及智能搜索领域,可应用于视频搜索场景或者视频推荐场景。
背景技术
随着信息技术的发展,尤其是互联网的迅速发展,视频制作的难度越来越低,视频逐渐成为了主流的信息传播途径。
在视频搜索领域以及视频推荐领域,需要处理海量的视频,它们中往往存在着大量的重复视频。重复视频不仅会额外占用存储资源和计算资源,还会影响用户体验。
发明内容
本公开提供了一种视频处理方法、装置、电子设备及介质。
根据本公开的一方面,提供了一种视频处理方法,该方法包括:
从候选视频聚类簇中为待识别视频选择所属的目标视频聚类簇;其中,所述候选视频聚类簇通过对至少两个候选视频进行聚类得到;
根据至少两个待识别视频所属的目标视频聚类簇,确定所述至少两个待识别视频是否重复。
根据本公开的另一方面,提供了一种视频处理装置,包括:
视频聚类簇确定模块,用于从候选视频聚类簇中为待识别视频选择所属的目标视频聚类簇;其中,所述候选视频聚类簇通过对至少两个候选视频进行聚类得到;
重复视频识别模块,用于根据至少两个待识别视频所属的目标视频聚类簇,确定所述至少两个待识别视频是否重复。
根据本公开的另一方面,提供了一种电子设备,该电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行本公开任一实施例所述的视频处理方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使计算机执行本公开任一实施例所述的视频处理方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现本公开任一实施例所述的视频处理方法。
根据本公开的技术,可以视频查重的时效性和准确性。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开实施例提供的一种视频处理方法的流程图;
图2是根据本公开实施例提供的另一种视频处理方法的流程图;
图3是根据本公开实施例提供的另一种视频处理方法的流程图;
图4是根据本公开实施例提供的另一种视频处理方法的流程图;
图5A是根据本公开实施例提供的另一种视频处理方法的流程图;
图5B根据本公开实施例提供的一种图像帧匹配路径确定方法的流程图;
图6是根据本公开实施例提供的一种视频处理装置的结构示意图;
图7是用来实现本公开实施例的视频处理方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
图1是根据本公开实施例提供的一种视频处理方法的流程图,本公开实施例适用于在视频搜索场景或者视频推荐场景下,进行重复视频识别的情况。该方法可以由视频处理装置来执行,该装置可以采用软件和/或硬件的方式实现,并可集成于承载视频处理功能的电子设备中。如图1所示,本实施例的视频处理方法可以包括:
S101,从候选视频聚类簇中为待识别视频选择所属的目标视频聚类簇;其中,所述候选视频聚类簇通过对至少两个候选视频进行聚类得到;
S102,根据至少两个待识别视频所属的目标视频聚类簇,确定所述至少两个待识别视频是否重复。
其中,待识别视频尚未进行视频查重。视频查重用于判断两个视频是否互为重复视频。可选的,内容相似但来源不同的两个视频互为重复视频。待识别视频的数量根据实际业务需求确定,在这里不作限定。可选的,待识别视频一般为至少两个。
候选视频聚类簇通过至少两个候选视频进行聚类处理得到。其中,候选视频可以互联网上收集得到。可选的,候选视频聚类簇根据候选视频之间的视频重复关系预先构建。根据视频重复关系用于确定来源不同的候选视频是否互为重复视频。可选的,将互为重复视频的候选视频划分到同一视频聚类簇,得到候选视频聚类簇。可选的,以候选视频为节点,使用无向边连接互为重复视频的候选视频,绘制拓扑结构图。根据拓扑结构图中的节点连接关系,确定候选视频聚类簇。
目标视频聚类簇是指与待识别视频互为重复视频的候选视频所属的候选视频聚类簇。
根据至少两个待识别视频所属的目标视频聚类簇,确定待识别视频是否属于同一视频聚类簇。若两个待识别视频属于同一视频聚类簇,则可以确定这两个待识别视频重复。
可选的,在对至少两个候选视频进行聚类得到候选视频聚类簇以后,为各候选视频聚类簇分配唯一性标识,以唯一性标识区分不同的视频聚类簇。
可选的,通过确定待识别视频所属视频聚类簇的唯一性标识,确定待识别视频所属的目标视频聚类簇。可选的,通过确定待识别视频所属视频聚类簇的唯一性标识是否相同,确定不同待识别视频是否重复。具体的,若所属视频聚类簇的唯一性标识相同,则确定待识别视频互为重复视频。
可选的,待识别视频可以是在视频推荐场景中或者视频搜索场景中,针对于视频推荐请求或者视频搜索操作的候选反馈结果。根据待识别视频所属的目标视频聚类,确定至少两个待识别视频是否重复。可选的,在待识别视频重复的情况下,对待识别视频进行去重处理。
相关技术中,一般抽取待识别视频的图像帧特征,通过比对图像帧特征,基于预先设定的匹配帧数阈值,确定来判定待识别视频是否互为重复视频。相关技术所提供的方法进行视频查重,存在查重覆盖率较低的问题。可以知道的是,在视频流行的多媒体时代,视频的总量是不计其数的,在海量视频中找到重复视频具备一定难度,相关技术很难用于对海量视频进行查重。尤其是,在每日都有新增视频的情况下,相关技术很难持续产出视频重复关系。
本公开实施例通过预先构建视频聚类簇,通过维护视频聚类簇,可以在存在新增视频的情况下,更新视频聚类簇,保证视频重复关系的持续产出,可以用于对海量视频进行查重。本公开实施例通过从候选视频聚类簇中为待识别视频选择所属的目标视频聚类簇,根据至少两个待识别视频所属的目标视频聚类簇,确定至少两个待识别视频是否重复,降低了视频查重的复杂度,提高了视频查重的时效性和准确性。
图2是根据本公开实施例提供的另一种视频处理方法的流程图;本实施例是在上述实施例的基础上提出的一种可选方案。具体的,本公开实施例对操作“从候选视频聚类簇中为待识别视频选择所属的目标视频聚类簇”进行了细化。
参见图2,本实施例提供的视频处理方法包括:
S201,根据所述待识别视频的视频全局特征,从所述至少两个候选视频中确定与所述待识别视频相匹配的召回视频。
提取待识别视频的是视频全局特征和图像帧特征。可选的,视频全局特征通过视频理解模型对视频整体进行特征提取得到。视频理解模型根据实际业务需求进行选择,在这里不作限定,示例性的,视频理解模型可以TSN(Time Sensitive Networking时间敏感网络)模型。可选的,首先利用关键帧抽取算法从待识别视频中抽取关键帧,然后利用图像特征提取模型,从待识别视频的关键帧中提取图像帧特征。示例性的,图像特征提取模型可以是卷积神经网络。
其中,视频全局特征通过视频整体进行特征提取得到。视频全局特征是指视频粒度的特征,视频全局特征是视频整体的特征表达。视频全局特征区别于图像帧特征,图像帧特征通过对视频中关键帧进行特征提取得到。图像帧特征是帧粒度的特征,图像帧特征是视频中关键帧的特征表达。视频全局特征包括帧间特征,也就是相邻图像帧的内容变化特征。
其中,召回视频是指待识别视频相匹配的候选视频。召回视频的视频全局特征与待识别视频的视频全局特征相匹配。
可选的,将待识别视频的视频全局特征,与候选视频的视频全局特征进行特征匹配,从候选视频中确定与待识别视频相匹配的召回视频。召回视频中可能与待识别视频互为重复视频,也可能不与待识别视频重复。召回视频是否与待识别视频互为重复视频,需要进行进一步的精细化特征比对。
可以知道的是,候选视频的视频数量是海量的,往往以亿计数,利用视频全局特征对候选视频进行初步筛选,从候选视频中得到召回视频。可以大幅降低后续进行精细化特征比对,所需要的资源消耗。
S202,根据所述待识别视频的图像帧特征和所述召回视频的图像帧特征,确定所述待识别视频和所述召回视频之间的图像帧匹配关系。
其中,图像帧匹配关系根据待识别视频中关键帧和召回视频中关键帧的图像帧相似度确定。
可选的,将待识别视频的图像帧特征和召回视频的图像帧特征进行特征比对,确定待识别视频和召回视频之间的图像帧匹配关系。
S203,根据所述图像帧匹配关系,确定所述召回视频与所述待识别视频之间的视频重复关系。
在候选视频是海量的情况下,从中选择的召回视频的数量一般为多个。根据图像帧匹配关系可以确定各召回视频中与待识别视频中关键帧相匹配的相似图像帧,以及相似图像帧在待识别视频中和召回视频中的相对位置。
根据相似图像帧,以及相似图像帧在待识别视频中和召回视频中的相对位置,确定召回视频与待识别视频之间的视频重复关系。
S204,根据所述视频重复关系,以及所述召回视频所属的视频聚类簇,确定所述待识别视频所属的目标视频聚类簇。
每个召回视频均所属的视频聚类簇均是确定的,且每个召回视频均存在所属的视频聚类簇。
根据视频重复关系可以确定召回视频是否与待识别视频互为重复视频,从召回视频中选择与待识别视频互为重复视频的参考视频。根据参考视频所属的视频聚类簇,确定待识别视频所属的目标视频聚类簇。
可选的,在确定参考视频与待识别视频互为重复视频的情况下,将待识别视频加入参考视频所属的视频聚类簇。对视频聚类簇进行更新,保证视频重复关系的持续产出,以适用于对海量视频进行查重。
S205,根据至少两个待识别视频所属的目标视频聚类簇,确定所述至少两个待识别视频是否重复。
基于上述步骤可以确定每个待识别视频所属的目标视频聚类簇,通过比较各个待识别视频所属的目标视频聚类簇是否一致,可以确定任意两个待识别视频是否重复。
本公开技术方案,通过根据视频粒度的视频全局特征,对候选视频的初步筛选,从候选视频中确定与待识别视频相匹配的召回视频,大大减少了后续进行精细化特征匹配所需要的资源消耗,有利于提高视频查重的时效性;本公开技术方案,根据帧粒度的图像帧特征,将待识别视频与召回视频进行精细化特征比对,有利于保证视频查重的准确性。
图3是根据本公开实施例提供的另一种视频处理方法的流程图;本实施例是在上述实施例的基础上提出的一种可选方案。具体的,本公开实施例对操作“根据所述待识别视频的视频全局特征,从所述至少两个候选视频中确定与所述待识别视频相匹配的召回视频”进行了细化。
参见图3,本实施例提供的视频处理方法包括:
S301,根据候选视频分桶中候选视频的视频全局特征,确定所述候选视频分桶的分桶中心。
可以知道的是,候选视频是海量的。为了节省视频检索过程中的资源消耗,可选的,根据候选视频的视频全局特征对候选视频进行分桶处理,具体的,将视频全局特征相近的候选视频划分到同一视频分桶,得到候选视频分桶。
其中,视频全局特征的数据格式为向量。可选的,侯选视频分桶的分桶中心,通过对侯选视频分桶中候选视频的视频全局特征进行平均处理得到。
S302,根据所述待识别视频的视频全局特征,确定候选视频分桶的分桶中心与所述待识别视频之间的相对距离。
候选视频分桶的分桶中心是根据候选视频分桶中候选视频的视频全局特征确定。候选视频分桶的分桶中心,从视频全局特征的角度反映了候选视频分桶中候选视频的共同特点。
候选视频分桶的分桶中心与待识别视频之间的相对距离,可以从视频全局特征的角度反应待识别视频和候选视频分桶中候选视频之间的特征相似度。
相对距离与待识别视频和候选视频分桶中候选视频之间的特征相似度成反比。相对距离越小,待识别视频和候选视频分桶中候选视频之间的特征相似度越大。
S303,根据所述相对距离从候选视频分桶中为所述待识别视频确定目标视频分桶,将属于所述目标视频分桶的候选视频确定为与所述待识别视频相匹配的召回视频。
根据相对距离对候选视频分桶进行排序,从候选视频分桶中选择相对距离最小的n个候选视频分桶,作为目标视频分桶。其中,n为正整数。
将属于目标视频分桶的候选视频确定为与待识别视频相匹配的召回视频。
S304,根据所述待识别视频的图像帧特征和所述召回视频的图像帧特征,确定所述待识别视频和所述召回视频之间的图像帧匹配关系。
可选的,候选视频分桶中存储有候选视频的图像帧特征。从召回视频所属的目标视频分桶中获取召回视频的图像帧特征,基于待识别视频的图像帧特征和召回视频的图像帧特征,确定待识别视频和召回视频之间的图像帧匹配关系。
S305,根据所述图像帧匹配关系,确定所述召回视频与所述待识别视频之间的视频重复关系。
S306,根据所述视频重复关系,以及所述召回视频所属的视频聚类簇,确定所述待识别视频所属的目标视频聚类簇。
S307,根据至少两个待识别视频所属的目标视频聚类簇,确定所述至少两个待识别视频是否重复。
本公开技术方案,根据候选视频的视频全局特征对候选视频进行分桶处理得到候选视频分桶,基于候选视频分桶中进行视频检索,以分桶粒度为待识别视频确定相匹配的召回视频,有效地为了节省视频检索过程中的资源消耗,有利于提高视频查重的时效性。
图4是根据本公开实施例提供的另一种视频处理方法的流程图;本实施例是在上述实施例的基础上提出的一种可选方案。具体的,本公开实施例对操作“根据所述待识别视频的图像帧特征和所述召回视频的图像帧特征,确定所述待识别视频和所述召回视频之间的图像帧匹配关系”进行了细化。
参见图4,本实施例提供的视频处理方法包括:
S401,根据所述待识别视频的视频全局特征,从所述至少两个候选视频中确定与所述待识别视频相匹配的召回视频。
S402,根据所述待识别视频的图像帧特征和所述召回视频的图像帧特征之间,确定所述待识别视频和所述召回视频的图像帧相似度。
基于帧粒度的图像帧特征,对待识别视频和召回视频进行精细化特征比对,确定待识别视频和召回视频的图像帧相似度。
S403,根据所述图像帧相似度和相似度阈值,从所述待识别视频和所述召回视频中确定相似图像帧。
其中,相似度阈值用于衡量待识别视频中关键帧与召回视频中关键帧中关键帧的相似程度。可选的,将图像帧相似度与相似度阈值进行比较,得到相似图像帧。相似图像帧对应的图像帧相似度大于相似度阈值。
S404,根据所述相似图像帧在所述待识别视频中以及所述召回视频中的相对位置,确定所述待识别视频和所述召回视频之间的图像帧匹配关系。
相似图像帧在待识别视频中以及召回视频中的相对位置,可以确定相似图像帧在待识别视频和召回视频中的时序特征。根据相似图像帧的时序特征可以确定待识别视频和召回视频的匹配时长。
S405,根据所述图像帧匹配关系,确定所述召回视频与所述待识别视频之间的视频重复关系。
根据图像帧匹配关系可以确定召回视频与待识别视频之间的匹配时长。可选的,将召回视频与待识别视频的之间的匹配时长与预设时长阈值进行比较,根据时长比较结果确定召回视频与待识别视频之间的视频重复关系,确定召回视频是否与待识别视频重复。
可选的,将匹配时长大于预设时长阈值的召回视频确定为待识别视频的重复视频。
S406,根据所述视频重复关系,以及所述召回视频所属的视频聚类簇,确定所述待识别视频所属的目标视频聚类簇。
S407,根据至少两个待识别视频所属的目标视频聚类簇,确定所述至少两个待识别视频是否重复。
本公开技术方案,基于图像帧特征,确定待识别视频和召回视频的图像帧相似度,根据图像帧相似度和相似度阈值,从待识别视频和召回视频中确定相似图像帧,根据相似图像帧在待识别视频中以及召回视频中的相对位置,确定待识别视频和召回视频之间的图像帧匹配关系,将图像帧匹配关系用于视频查重,同时考虑了图像帧的空间特征以及时序特征,保证了视频查重的准确性。
图5A是根据本公开实施例提供的另一种视频处理方法的流程图;本实施例是在上述实施例的基础上提出的一种可选方案。具体的,本公开实施例对操作“根据所述图像帧匹配关系,确定所述召回视频与所述待识别视频之间的视频重复关系”进行了细化。
参见图5A,本实施例提供的视频处理方法包括:
S501,根据所述待识别视频的视频全局特征,从所述至少两个候选视频中确定与所述待识别视频相匹配的召回视频。
S502,根据所述待识别视频的图像帧特征和所述召回视频的图像帧特征,确定所述待识别视频和所述召回视频之间的图像帧匹配关系。
S503,根据所述图像帧匹配关系,确定相似图像帧在所述待识别视频中和所述召回视频中的相对位置,分别作为第一相对位置和第二相对位置。
图像帧匹配关系根据相似图像帧在待识别视频中和召回视频中的相对位置确定。
第一相对位置是指相似图像帧在待识别图像中的相对位置。根据第一相对位置可以确定相似图像帧处于待识别视频的第几帧。
第二相对位置是指相似图像帧在召回视频中的相对位置。根据第二相对位置可以确定相似图像帧处于召回视频的第几帧。
S504,根据所述第一相对位置和所述第二相对位置,确定所述待识别视频和所述召回视频的图像帧匹配路径。
图像帧匹配关系用于将帧粒度匹配映射到视频粒度的时长匹配。图像帧匹配路径用于量化待识别视频和召回视频的匹配时长。
可选的,利用动态规划算法,基于第一相对位置和第二相对位置,确定待识别视频和召回视频的图像帧匹配路径。
图5B根据本公开实施例提供的一种图像帧匹配路径确定方法的流程图,参见图5B,根据待识别视频A和召回视频B之间图像帧匹配关系,可以确定图像帧匹配矩阵。其中,An用于区分待识别视频A中的关键帧,n为自然数,n根据待识别视频A的关键帧数量确定,A0表示待识别视频A中的第一个关键帧。其中,Bm用于区分召回视频B中的关键帧,m为自然数,B0表示召回视频B中的第一个关键帧,m根据召回视频B的关键帧数量确定。
图像帧匹配矩阵大小根据待识别视频A中和召回视频B中的关键帧数量确定。待识别视频A的关键帧数量为10,则图像帧匹配矩阵列数为10,召回视频B的关键帧数量为8,则图像帧匹配矩阵行数为8。图像帧匹配矩阵为10列8行的矩阵。图像帧匹配矩阵中的矩阵元素用于表示图像帧匹配关系。矩阵元素为1表示待识别视频A和召回视频B对应位置的图像帧相匹配,二者互为相似图像帧。矩阵元素为0表示待识别视频A和召回视频B对应位置的图像帧不匹配。
基于图像帧匹配矩阵,利用动态规划算法例如史密斯-沃特曼算法(Smith-Waterman algorithm),确定待识别视频A和召回视频B两个视频的最长匹配路径。参见图5B,待识别视频A和召回视频B两个视频的最长匹配路径即为箭头指示出来的图像帧匹配路径。
S505,根据所述图像帧匹配路径,确定所述召回视频与所述待识别视频之间的视频重复关系。
根据图像帧匹配路径的路径长度,确定待识别视频和召回视频的匹配时长,根据匹配时长确定二者之间的视频重复关系。可选的,若匹配时长超出预设时长阈值,则确定召回视频与待识别视频重复。
S506,根据所述视频重复关系,以及所述召回视频所属的视频聚类簇,确定所述待识别视频所属的目标视频聚类簇。
S507,根据至少两个待识别视频所属的目标视频聚类簇,确定所述至少两个待识别视频是否重复。
本公开技术方案,通过根据图像帧匹配关系,确定相似图像帧在待识别视频中和召回视频中的相对位置,根据相似视频帧的相对位置,确定待识别视频和召回视频的图像帧匹配路径,将帧粒度匹配映射到视频粒度的时长匹配,使得视频排重不受视频本身长度的影响,保证了视频查重的准确性。
图6是根据本公开实施例提供的一种视频处理装置的结构示意图。本公开实施例适用于在视频搜索场景或者视频推荐场景下,进行重复视频识别的情况。该装置可以采用软件和/或硬件来实现,该装置可以实现本公开任意实施例所述的视频处理方法。如图6所示,该视频处理装置600包括:
视频聚类簇确定模块601,用于从候选视频聚类簇中为待识别视频选择所属的目标视频聚类簇;其中,所述候选视频聚类簇通过对至少两个候选视频进行聚类得到;
重复视频识别模块602,用于根据至少两个待识别视频所属的目标视频聚类簇,确定所述至少两个待识别视频是否重复。
本公开实施例通过预先构建视频聚类簇,通过维护视频聚类簇,可以在存在新增视频的情况下,更新视频聚类簇,保证视频重复关系的持续产出,可以用于对海量视频进行查重。本公开实施例通过从候选视频聚类簇中为待识别视频选择所属的目标视频聚类簇,根据至少两个待识别视频所属的目标视频聚类簇,确定至少两个待识别视频是否重复,降低了视频查重的复杂度,提高了视频查重的时效性和准确性。
可选的,所述视频聚类簇确定模块601,包括:召回视频确定子模块,用于根据所述待识别视频的视频全局特征,从所述至少两个候选视频中确定与所述待识别视频相匹配的召回视频;图像帧匹配关系确定子模块,用于根据所述待识别视频的图像帧特征和所述召回视频的图像帧特征,确定所述待识别视频和所述召回视频之间的图像帧匹配关系;视频重复关系确定子模块,用于根据所述图像帧匹配关系,确定所述召回视频与所述待识别视频之间的视频重复关系;视频聚类簇确定子模块,用于根据所述视频重复关系,以及所述召回视频所属的视频聚类簇,确定所述待识别视频所属的目标视频聚类簇。
可选的,所述召回视频确定子模块,包括:分桶中心确单元,用于根据候选视频分桶中候选视频的视频全局特征,确定所述候选视频分桶的分桶中心;相对距离确定单元,用于根据所述待识别视频的视频全局特征,确定候选视频分桶的分桶中心与所述待识别视频之间的相对距离;召回视频确定单元,用于根据所述相对距离从候选视频分桶中为所述待识别视频确定目标视频分桶,将属于所述目标视频分桶的候选视频确定为与所述待识别视频相匹配的召回视频。
可选的,图像帧匹配关系确定子模块,包括:图像帧相似度确定单元,用于根据所述待识别视频的图像帧特征和所述召回视频的图像帧特征之间,确定所述待识别视频和所述召回视频的图像帧相似度;相似图像帧确定单元,用于根据所述图像帧相似度和相似度阈值,从所述待识别视频和所述召回视频中确定相似图像帧;图像帧匹配关系确定单元,用于根据所述相似图像帧在所述待识别视频中以及所述召回视频中的相对位置,确定所述待识别视频和所述召回视频之间的图像帧匹配关系。
可选的,所述视频重复关系确定子模块,包括:相对位置确定单元,用于根据所述图像帧匹配关系,确定相似图像帧在所述待识别视频中和所述召回视频中的相对位置,分别作为第一相对位置和第二相对位置;图像帧匹配路径确定单元,用于根据所述第一相对位置和所述第二相对位置,确定所述待识别视频和所述召回视频的图像帧匹配路径;视频重复关系确定单元,用于根据所述图像帧匹配路径,确定所述召回视频与所述待识别视频之间的视频重复关系。
本公开实施例所提供的视频处理装置可执行本公开任意实施例所提供的视频处理方法,具备执行视频处理方法相应的功能模块和有益效果。
本公开的技术方案中,所涉及的用户信息的收集、存储、使用、加工、传输、提供和公开等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图7示出了可以用来实施本公开的实施例的示例电子设备700的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图7所示,电子设备700包括计算单元701,其可以根据存储在只读存储器(ROM)702中的计算机程序或者从存储单元708加载到随机访问存储器(RAM)703中的计算机程序,来执行各种适当的动作和处理。在RAM 703中,还可存储电子设备700操作所需的各种程序和数据。计算单元701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。
电子设备700中的多个部件连接至I/O接口705,包括:输入单元706,例如键盘、鼠标等;输出单元707,例如各种类型的显示器、扬声器等;存储单元708,例如磁盘、光盘等;以及通信单元709,例如网卡、调制解调器、无线通信收发机等。通信单元709允许电子设备700通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理,例如视频处理方法。例如,在一些实施例中,视频处理方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元708。在一些实施例中,计算机程序的部分或者全部可以经由ROM 702和/或通信单元709而被载入和/或安装到电子设备700上。当计算机程序加载到RAM 703并由计算单元701执行时,可以执行上文描述的视频处理方法的一个或多个步骤。备选地,在其他实施例中,计算单元701可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行视频处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程视频处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术;人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术及机器学习/深度学习技术、大数据处理技术、知识图谱技术等几大方向。
云计算(cloud computing),指的是通过网络接入弹性可扩展的共享物理或虚拟资源池,资源可以包括服务器、操作系统、网络、软件、应用和存储设备等,并可以按需、自服务的方式对资源进行部署和管理的技术体系。通过云计算技术,可以为人工智能、区块链等技术应用、模型训练提供高效强大的数据处理能力。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (13)
1.一种视频处理方法,所述方法包括:
从候选视频聚类簇中为待识别视频选择所属的目标视频聚类簇;其中,所述候选视频聚类簇通过对至少两个候选视频进行聚类得到;
根据至少两个待识别视频所属的目标视频聚类簇,确定所述至少两个待识别视频是否重复。
2.根据权利要求1所述的方法,其中,所述从候选视频聚类簇中为待识别视频选择所属的目标视频聚类簇,包括:
根据所述待识别视频的视频全局特征,从所述至少两个候选视频中确定与所述待识别视频相匹配的召回视频;
根据所述待识别视频的图像帧特征和所述召回视频的图像帧特征,确定所述待识别视频和所述召回视频之间的图像帧匹配关系;
根据所述图像帧匹配关系,确定所述召回视频与所述待识别视频之间的视频重复关系;
根据所述视频重复关系,以及所述召回视频所属的视频聚类簇,确定所述待识别视频所属的目标视频聚类簇。
3.根据权利要求2所述的方法,其中,所述根据所述待识别视频的视频全局特征,从所述至少两个候选视频中确定与所述待识别视频相匹配的召回视频,包括:
根据候选视频分桶中候选视频的视频全局特征,确定所述候选视频分桶的分桶中心;
根据所述待识别视频的视频全局特征,确定候选视频分桶的分桶中心与所述待识别视频之间的相对距离;
根据所述相对距离从候选视频分桶中为所述待识别视频确定目标视频分桶,将属于所述目标视频分桶的候选视频确定为与所述待识别视频相匹配的召回视频。
4.根据权利要求2所述的方法,其中,所述根据所述待识别视频的图像帧特征和所述召回视频的图像帧特征,确定所述待识别视频和所述召回视频之间的图像帧匹配关系,包括:
根据所述待识别视频的图像帧特征和所述召回视频的图像帧特征之间,确定所述待识别视频和所述召回视频的图像帧相似度;
根据所述图像帧相似度和相似度阈值,从所述待识别视频和所述召回视频中确定相似图像帧;
根据所述相似图像帧在所述待识别视频中以及所述召回视频中的相对位置,确定所述待识别视频和所述召回视频之间的图像帧匹配关系。
5.根据权利要求2所述的方法,其中,所述根据所述图像帧匹配关系,确定所述召回视频与所述待识别视频之间的视频重复关系,包括:
根据所述图像帧匹配关系,确定相似图像帧在所述待识别视频中和所述召回视频中的相对位置,分别作为第一相对位置和第二相对位置;
根据所述第一相对位置和所述第二相对位置,确定所述待识别视频和所述召回视频的图像帧匹配路径;
根据所述图像帧匹配路径,确定所述召回视频与所述待识别视频之间的视频重复关系。
6.一种视频处理装置,所述装置包括:
视频聚类簇确定模块,用于从候选视频聚类簇中为待识别视频选择所属的目标视频聚类簇;其中,所述候选视频聚类簇通过对至少两个候选视频进行聚类得到;
重复视频识别模块,用于根据至少两个待识别视频所属的目标视频聚类簇,确定所述至少两个待识别视频是否重复。
7.根据权利要求6所述的装置,其中,所述视频聚类簇确定模块,包括:
召回视频确定子模块,用于根据所述待识别视频的视频全局特征,从所述至少两个候选视频中确定与所述待识别视频相匹配的召回视频;
图像帧匹配关系确定子模块,用于根据所述待识别视频的图像帧特征和所述召回视频的图像帧特征,确定所述待识别视频和所述召回视频之间的图像帧匹配关系;
视频重复关系确定子模块,用于根据所述图像帧匹配关系,确定所述召回视频与所述待识别视频之间的视频重复关系;
视频聚类簇确定子模块,用于根据所述视频重复关系,以及所述召回视频所属的视频聚类簇,确定所述待识别视频所属的目标视频聚类簇。
8.根据权利要求7所述的装置,其中,所述召回视频确定子模块,包括:
分桶中心确单元,用于根据候选视频分桶中候选视频的视频全局特征,确定所述候选视频分桶的分桶中心;
相对距离确定单元,用于根据所述待识别视频的视频全局特征,确定候选视频分桶的分桶中心与所述待识别视频之间的相对距离;
召回视频确定单元,用于根据所述相对距离从候选视频分桶中为所述待识别视频确定目标视频分桶,将属于所述目标视频分桶的候选视频确定为与所述待识别视频相匹配的召回视频。
9.根据权利要求7所述的装置,其中,图像帧匹配关系确定子模块,包括:
图像帧相似度确定单元,用于根据所述待识别视频的图像帧特征和所述召回视频的图像帧特征之间,确定所述待识别视频和所述召回视频的图像帧相似度;
相似图像帧确定单元,用于根据所述图像帧相似度和相似度阈值,从所述待识别视频和所述召回视频中确定相似图像帧;
图像帧匹配关系确定单元,用于根据所述相似图像帧在所述待识别视频中以及所述召回视频中的相对位置,确定所述待识别视频和所述召回视频之间的图像帧匹配关系。
10.根据权利要求7所述的装置,其中,所述视频重复关系确定子模块,包括:
相对位置确定单元,用于根据所述图像帧匹配关系,确定相似图像帧在所述待识别视频中和所述召回视频中的相对位置,分别作为第一相对位置和第二相对位置;
图像帧匹配路径确定单元,用于根据所述第一相对位置和所述第二相对位置,确定所述待识别视频和所述召回视频的图像帧匹配路径;
视频重复关系确定单元,用于根据所述图像帧匹配路径,确定所述召回视频与所述待识别视频之间的视频重复关系。
11.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-5中任一项所述的视频处理方法。
12.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使计算机执行根据权利要求1-5中任一项所述的视频处理方法。
13.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-5中任一项所述的视频处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211485695.8A CN115757869A (zh) | 2022-11-24 | 2022-11-24 | 视频处理方法、装置、电子设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211485695.8A CN115757869A (zh) | 2022-11-24 | 2022-11-24 | 视频处理方法、装置、电子设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115757869A true CN115757869A (zh) | 2023-03-07 |
Family
ID=85337426
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211485695.8A Pending CN115757869A (zh) | 2022-11-24 | 2022-11-24 | 视频处理方法、装置、电子设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115757869A (zh) |
-
2022
- 2022-11-24 CN CN202211485695.8A patent/CN115757869A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113657465B (zh) | 预训练模型的生成方法、装置、电子设备和存储介质 | |
CN112749344B (zh) | 信息推荐方法、装置、电子设备、存储介质及程序产品 | |
CN112560985A (zh) | 神经网络的搜索方法、装置及电子设备 | |
CN114648676A (zh) | 点云处理模型的训练和点云实例分割方法及装置 | |
CN114444619B (zh) | 样本生成方法、训练方法、数据处理方法以及电子设备 | |
CN112784734A (zh) | 一种视频识别方法、装置、电子设备和存储介质 | |
CN114462577A (zh) | 一种联邦学习系统、方法、计算机设备及存储介质 | |
CN112766421A (zh) | 基于结构感知的人脸聚类方法和装置 | |
CN115358392A (zh) | 深度学习网络的训练方法、文本检测方法及装置 | |
CN113963197A (zh) | 图像识别方法、装置、电子设备和可读存储介质 | |
CN113627536A (zh) | 模型训练、视频分类方法,装置,设备以及存储介质 | |
CN114037059A (zh) | 预训练模型、模型的生成方法、数据处理方法及装置 | |
CN115632874A (zh) | 一种实体对象的威胁检测方法、装置、设备及存储介质 | |
CN114741544A (zh) | 图像检索方法、检索库构建方法、装置、电子设备及介质 | |
CN113204665B (zh) | 图像检索方法、装置、电子设备及计算机可读存储介质 | |
CN112784102B (zh) | 视频检索方法、装置和电子设备 | |
CN115329748B (zh) | 一种日志解析方法、装置、设备及存储介质 | |
CN115169489B (zh) | 数据检索方法、装置、设备以及存储介质 | |
CN113868254B (zh) | 图数据库中的实体节点去重方法、设备和存储介质 | |
CN112818167B (zh) | 实体检索方法、装置、电子设备及计算机可读存储介质 | |
CN115757869A (zh) | 视频处理方法、装置、电子设备及介质 | |
CN114724090B (zh) | 行人再识别模型的训练方法、行人再识别方法及装置 | |
CN114359610B (zh) | 实体分类的方法、装置、设备以及存储介质 | |
CN113221034B (zh) | 数据泛化方法、装置、电子设备和存储介质 | |
CN114926713A (zh) | 样本图像数据生成方法、模型的训练方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |