CN102890700A - 一种基于体育比赛视频的相似视频片段检索方法 - Google Patents

一种基于体育比赛视频的相似视频片段检索方法 Download PDF

Info

Publication number
CN102890700A
CN102890700A CN2012102301080A CN201210230108A CN102890700A CN 102890700 A CN102890700 A CN 102890700A CN 2012102301080 A CN2012102301080 A CN 2012102301080A CN 201210230108 A CN201210230108 A CN 201210230108A CN 102890700 A CN102890700 A CN 102890700A
Authority
CN
China
Prior art keywords
video
sub
fragment
similar
segments
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2012102301080A
Other languages
English (en)
Other versions
CN102890700B (zh
Inventor
李炜
李小燕
李艳华
陈书骞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Yihang Yuanzhi Technology Co Ltd
Original Assignee
Beihang University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beihang University filed Critical Beihang University
Priority to CN201210230108.0A priority Critical patent/CN102890700B/zh
Publication of CN102890700A publication Critical patent/CN102890700A/zh
Application granted granted Critical
Publication of CN102890700B publication Critical patent/CN102890700B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明涉及一种基于体育比赛视频的相似视频片段检索方法,通过离线部分对视频库中的所有视频进行预处理形成视频特征库,在线部分对查询片段进行视频结构化分析以及特征提取后在视频特征库中进行两轮不同粒度的检索。第一轮粗粒度的检索确定候选视频集,第二轮细粒度的检索确定相似片段在视频对象中的精确位置。并且,对所有的视频特征采用K-D tree进行组织以加速查询过程。最后综合考虑视觉、时序、干扰因子对相似度的影响,对相似片段进行相似度进行计算并排序。

Description

一种基于体育比赛视频的相似视频片段检索方法
技术领域
本发明涉及一种相似视频片段检索方法,属于计算机视觉技术领域。
背景技术
相似视频检索是基于内容视频检索(CBVR)领域近年来兴起的研究热点。由于其应用广泛能为视频复制检测、视频语义标注等提供关键技术,成为众多研究机构和学者关注的焦点。其中,对体育比赛视频进行自动检索则具有很高的实用价值,研究成果既可以被专业人士用于对体育比赛中的选手的技术动作与战术进行快速分析,从而提高体育训练效率和训练水平,也可以被体育爱好者们用于对感兴趣的视频片段进行更加准确、方便、快捷的检索,从而提高人们观赏体育比赛的便捷程度。相似视频检索是通过选取合适的底层视觉特征,在视频的特征空间进行视频的相似度度量,并在视频数据库中进行快速、准确的检索,从而得到检索结果。
目前在实际的应用中都是基于单轮检索,直接对视频库中的所有视频进行相似度计算,但直接检索存在着一个很严重的问题:由于视频包含文本、声音以及图像是一种复杂的没有结构的流数据,其特征维数高、蕴含的数据量大、计算复杂,若对视频库进行直接处理必然造成检索时间过长,难以满足实时查询的要求。并且针对视频特征一般维数较高、数据量大计算复杂等问题,目前的相似片段检索方法中对于视频的特征的组织往往采用一些常用的降维方法(如VA-File)避免“维度灾难”这一严峻问题。常用的降维方法能在一定程度上降低时间复杂度,减少计算时间,但降维方法是基于近似向量的原理会导致检索精度降低,并且一些常用的降维方法都有其适用范围,而视频特征具有随机性难以满足要求。对于体育比赛视频而言,尤其是某类型的体育比赛,其场景较为固定、简单,场地以及背景信息变化较小,因此不必为体育视频提取高维的特征进行检索,只需提取具有代表性的特征即可,例如颜色特征、亮度特征等。
发明内容
本发明的目的是提供一种基于体育比赛视频的相似片段检索方法。该方法利用离线部分已经形成视频特征库,在线部分对查询片段进行视频结构化分析以及特征提取后在视频特征库中的视频进行两轮不同粒度的检索,并采用K-D tree组织视频特征得到相似片段。最后综合考虑视觉、时序、干扰因子对相似度的影响,对相似片段进行相似度进行计算并排序。该方法能有效地减少计算量、提高检索效率,实现了快速、准确的基于体育比赛视频的相似片段检索。
为实现上述目的,本发明采用下述的技术方案。其特征在于包括以下步骤:
步骤一:对视频库中的所有视频进行预处理,分别采用基于颜色相似性的子片段分割方法和基于亮度差异性的子片段分割方法将每个视频分割为若干视频子片段,对每个视频子片段提取其中的关键帧,对每一关键帧提取颜色和亮度特征,组成视频特征库;
步骤二:对于步骤一中得到的所有特征采用K-D tree结构进行存储,每一个特征都作为K-D tree中的一个节点,特征值大于该层分辨器值的特征作为右子树,特征值小于等于该层分辨器值的特视作为左子树,视频特征库中的所有特征构建成一棵K-D tree;
步骤三:对待查询视频片段分别采用基于颜色相似性的子片段分割方法和基于亮度差异性的子片段分割方法法将其分割为若干视频子片段,对每个视频子片段提取其中的关键帧,对每一关键帧提取颜色和亮度特征,作为查询条件;
步骤四:首先,通过将查询条件与视频特征库中的特征进行对比找到待查询视频片段中所有视频子片段的相似子片段集,对所得到的所有相似子片段集求交集,并由所求交集确定候选视频集;其次,对候选视频集中所有视频采用滑动子片段窗口进行相似片段的精确定位,采用如下公式(1)计算滑动子片段窗口中的视频片段与待查询视频片段的匹配度mqw,匹配度小于给定阈值时,将所述窗口以一个视频子片段为步长向前移动;直到匹配度大于所述给定阈值,此时所述窗口的前端为相似片段的起始位置;
m qw = NV n q len - - - ( 1 )
其中
Figure BDA00001849379300032
表示待查询视频片段和滑动子片段窗口中一一对应的视频子片段数目,len为滑动子片段窗口中视频子片段的总数目;
步骤五:根据步骤四中得到相似片段,按照如下相似度计算公式(2)计算待查询视频片段与相似片段的相似度S(Vq,Vs);
S(Vq,Vs)=ωv×fvo×foi×fi            (2)
其中fv、fo、fi分别为视觉因子、顺序因子及干扰因子,ωv、ω0、ωi分别为视觉因子、顺序因子及干扰因子的权重值;
步骤六:根据上述计算得到的相似度,确定最终的相似视频。
本发明所提供的基于体育比赛视频的相似片段检索方法可以在保证检索精度的同时有效地减少计算量、降低查询时间。有关的测试结果表明,本方法对于体育比赛视频的相似片段检索具有较好的结果,其检索时间满足实时的需求。
附图说明
图1基于体育比赛视频的相似片段检索方法的框架图。
图2基于体育比赛视频的相似片段检索方法的流程图。
图3基于体育比赛视频的相似片段检索方法效果图。
具体实施方式
前已述及,本发明通过离线部分形成视频特征库,在线部分对查询片段进行视频结构化分析以及特征提取后在视频特征库中的视频进行两轮不同力粒度的检索,并采用K-D tree组织视频特征得到相似片段。最后综合考虑视觉、时序、干扰因子对相似度的影响,对相似片段进行相似度进行计算并排序。
下面结合附图说明本发明的实现方式,图3中明确表示了本发明的过程。首先,对查询视频进行分析;其次,相似片段的查询得到最终结果。
需要注意的是,以下仅是示例性的列举了本发明的一种实施方式:
步骤一:查询视频分析
由于视频是多媒体中比较复杂的一种媒体,它包含了声音、图像、文本,是在时间上连续的一系列帧的集合,是一种没有结构的流数据,如果不对其进行有效的组织管理就无法完成快速且高效的视频检索。本发明中采用视频-子片段-关键帧的三层结构对视频片段进行表示。在有效的表示视频片段后必须为其提取适合的底层特征进行后续的计算。本发明中,由于针对特定类型的视频-体育比赛视频,我们仅选取颜色或亮度信息作为底层特征,其具有简单、快速的特点,并且具有较好的鲁棒性和泛化性能。
步骤一的一种示例性实施步骤如下:
(1)子片段的分割
本方法中采用了两种不同的子片段分割方法:基于颜色相似性的子片段分割方法与基于亮度差异的子片段分割算法。
基于颜色相似性的子片段分割的主要思想是计算视频流中的每一帧的HSV颜色空间的颜色直方图作为该帧的特征向量,遍历视频流中的每一帧与相邻帧之间的颜色差异,若颜色差异大于给定阈值,说明存在一个子片段的分界点。这种方法是基于视频子片段内部颜色差异小,而不同的子片段之间的颜色差异大,利用颜色的差异来区分子片段之间视觉特征的差异,符合人的主观要求。某一类体育比赛视频一般颜色比较简单,不同的颜色特征在一定程度上能对应不同的视频语义。因此,选取颜色特征来分割视频是十分可行的。该方法将HSV空间量化成144个bin值,其中H量化为16个区间、S和V都量化3个区间,并统计其颜色直方图后将其归一化作为该视频帧的特征向量。帧差用公式(1)来计算。
D = 1 - Σ i min ( H 1 ( i ) , H 2 ( j ) ) Σ i min ( H 2 ( j ) ) - - - ( 1 )
其中,H1,H2分别表示两帧基于HSV颜色空间的颜色直方图,利用其直方图归一化的交表示其相似度,阈值dist的选取可以根据实验得到。
基于亮度差异的子片段分割方法采用包含空间信息的亮度排序方法对视频流进行分割,将一个视频片段中具有相同亮度排序的相邻帧划分到一个子片段中。该方法选取Lab颜色空间中L,即亮度信息作为视频帧的视觉特征,将视频中的每一帧分为四个子块,统计每个子块的亮度值的总和,并对这四个总和进行排序,若两帧的亮度值排序相同则将这两个视频帧划入同一个子片段中,若不同则不划入同一个视频子片段中。
(2)关键帧提取
现阶段关键帧的选取原则“宁多勿少”同时,在代表特征不具体的情况下,一般以去掉重复(或冗余)帧为原则。基于这一基本原则,不同的提取算法可以选取不同的原则,建立适合自身情况的判定标准,有时针对不同的视频事件,还可以选择不同的判定标准。就本方法而言,子片段不同于以往的镜头,往往在子片段内部视觉内容变化较小,为了提高检索的效率,减少计算复杂度,我们采取特定帧法来选取关键帧,选取每个子片段的第一帧作为该子片段的关键帧。
(3)视觉特征提取
在进行完视频子片段分割完成后选取每个子片段的第一帧作为该子片段的关键帧,视频片段以视频-子片段-关键帧结构表示。本方法中针对两种不同的子片段分割方法-基于颜色差异子片段分割和基于亮度排序子片段分割采用相同的特征作为子片段代表-关键帧的特征向量。对于基于颜色相似性的子片段分割方法和基于亮度差异的子片段分割方法均采用关键帧的颜色直方图作为一个视频子片段的特征向量。视频片段被分割成C个子片段C={C1,C2,...,Cc},其对应的HSV颜色直方图为Hist={H1,H2,...,Hc},本文采用非均匀量化,将每一个关键帧帧表示为16×3×3共144Bin的HSV颜色直方图,其中H为16Bin,S和V分别为3Bin。
(4)视频特征库的组织
由于视频片段被分割成若干子片段,并且以视频子片段作为视频查询的单位,因此视频数据库就表示成了子片段的集合C={C1,C2,...,Cc}。提取子片段关键帧的颜色直方图作为视频特征,就形成了大量特征向量组成的视频特征数据库。由于子片段数量较多,其关键帧的数量也多,因此视频特征数据库也将是规模巨大的,为了提高查询效率,就需要利用索引结构对其进行组织和管理。
最常见的方法是采用高维索引结构VA-File来组织视频特征库。VA-file(Vector-Approximation file)是用于高维向量数据K-NN的索引方法,它通过减少向量的存储空间来达到减少查询开销的目的,能够有效克服高维索引结构中存在的“维数灾难”问题。本方法只针对体育比赛视频进行处理,由于其场景较为单一,可以考虑只采用维数较低的简单特征即可。通过大量的实验表明,采取维度较低的颜色特征或亮度特征就能得到较好的检索结果。因此,面临的问题不是“维数灾难”问题而是子片段较多造成关键帧较多,引起特征向量的数量较多。针对上述问题,本方法中采用K-D tree对视频特征进行组织。
K-D tree(K-Dimension tree)又称为多维二进制搜索树,是对数据点在k维空间在k维空间中划分的一种数据结构,其中k表示搜索空间的维数。K-Dtree树可以用来存储对象信息,其中每个对象包括k维,一般被应用于文件的储存,数据库查找,网络的查找等领域。K-D tree成功地将二叉搜索树推广到多维数据检索,本论文中用K-D tree来组织视频的特征向量,K维空间中的一个点代表一个关键帧(即一个视频子片段)的特征向量。不同于二叉搜索树,K-D tree的每个节点用K个关键字来做索引,其中每个关键字都表示K维空间的一个维度值。
一棵K-D tree,或为空树,或为满足一下特征的二叉树:
(1)树中的每个节点P拥有K维向量V=[V1,V2,…,Vk],记为V(P);
(2)树的每一层都有一个分辨器(discrimination),1≤d1scrimination≤K,表示节点P处应表示哪个分量,用discrimination(P)表示;
(3)树节点P指向左孩子和右孩子的指针分别用Left(P)和Right(p)表示。
(4)对于树中任意节点P,令i=discrimination(P),都满足以下特征:对于P左子树中的任意节点L,满足Vi(L)<Vi(P);对于P右子树中的任意节点R,满足Vi(R)≥Vi(P);同一层次的discrimination值相等,第一层的discrimination值discrimination(1)=1,第i层的discrimination值discrimination(i)=i,第K层的discrimination值discrimination(K)=K,第K+1层discrimination(K+1)=1,如此循环。
其具体做法是将特征库中的所有颜色特征根据K-D tree的构造方法构建成为一棵K-D tree。K-D tree的每一个节点是代表一个关键帧的特征,后续的查询计算中根据K-D tree检索算法进行快速地检索。
步骤二:相似片段的查询
本步骤主要是在视频特征库中进行两轮不同粒度的检索。第一轮粗粒度的检索确定候选视频集,第二轮细粒度的检索确定相似片段在视频对象中的精确位置。最后综合考虑视觉、时序、干扰因子对相似度的影响,对相似片段进行相似度进行计算并排序。
步骤二的一个示例性实施步骤如下:
(1)子片段的相似度计算
为了提高检索的速度,本方法为每个视频子片段提取唯一的关键帧。于是,视频子片段的相似度可以转化为关键帧的相似度,其具体定义为公式(2)。
CSim ( C i , C j ) = FSim ( f i , f j ) = Σ bin min ( H i ( bin ) , H j ( bin ) ) Σ bin min ( H j ( bin ) ) - - - ( 2 )
其中,Hi、Hj分别为子片段Ci、Cj的关键帧fi、fj所对应的基于HSV颜色空间的144bin的颜色直方图。
(2)候选视频集的确定
考虑到视频数据量大,处理要花费较长的时间,检索时间难以满足检索的需求。本方法中首先对数据库中的视频进行筛选,去除不符合要求的视频对象。如果查询片段的每个子片段都能在视频库中的某个视频对象中查找到与其相似的子片段,则它们之间存在相似。基于这个原理筛选出不存在相似视频子片段的视频对象,构造候选视频集。其具体做法是如下所示。
输入:一个查询视频对象的子片段序列Vq={Cq1,Cq2,…,Cqn},视频数据库中的所有视频对象的子片段集Clipi={Cd1,Cd2,…,Cdm},i=1,…,n。
输出:候选视频集Vc={Ccl,Cc2,...,Ccn]。
(1)初始化,输入查询视频对象的子片段序列Vq以及视频数据库中的所有视频对象的子片段集Clipi={Cdl,Cd2,…,Cdm],i=1,…,n。
(2)遍历查询视频对象的子片段序列,查找其在视频数据库中的所有视频对象的子片段集的相似视频,构造相似子片段集SClipi={Sd1,Sd2,…,Sdm],i=1,...,n。
(3)为相似子片段集中的每一个Sdi,查找其对应的视频。于是,一个相似子片段集SClipi可以得到一个视频集Sci
(4)对查询视频对象所有子片段对应的Sci求他们的交集,交集记为候选视频集Vc={Cc1,Cc2,...,Ccn]。
候选视频集的确定过程计算简单,时间复杂度低,不会增加较多的额外的开销,并且候选视频集的构造过程中能去除很大一部分与查询视频无关的视频集,能减少处理得数据量,提高检索的效率。
(3)相似片段的精确定位
本方法中采用滑动子片段窗口进行相似片的精确定位。首先,定义匹配度。其次计算滑动子片段窗口中的片段与查询片段的匹配度,并根据匹配度的高低确定相似片段的位置。其具体做法如下述所示。
为了确定查询视频片段和滑动子片段窗中的视频片段的匹配度,过滤伪相似的片段,从而得到与查询片段真正相似的片段,首先先介绍查询视频片段的相似子片段集的定义。
相似子片段集。假定查询视频片段为Vq,当前滑动子片段窗中的子片段集合为Vw,窗口的大小为len,对于查询片段Vq中的任一子片段Cqi定义Cqi的相似子片段集为Si={Cwj∣CSim(Cqi,Cwj)>a},i=1,…,nq,j=n,n+1,n+2,…,n+len-1,则不相似子片段集为Vw-Si。其中CSim(Cqi,Cwj)两个视频子片段的相似度,α为视频子片段相似度的临界值,n为滑动窗口中第一个子片段的序号。
按照相似子片段集合中包含子片段数目从少到多的顺序排列相似子片段集,如果存在多个相似子片段集包含的子片段数目相同,则可将序号小的子片段的相似子片段集排在前面。相似子片段集排序后记为OSi
假设NVi表示当前已经一一对应匹配的子片段数目,集合OIi表示排在相似子片段集OSi前面的所有相似子片段集与OSi的并集,则OSi用公式(3)和公式(4)计算。
Figure BDA00001849379300111
Figure BDA00001849379300112
其中|OSi|表示OIi所含子片段数目,nq为查询视频中子片段的数目。
设集合NSi表示已经被查询子片段匹配的相似子片段集合,即NSi中的子片段已经被匹配,不能再与后续的查询子片段匹配,则NSi的公式计算为公式(5)。
Figure BDA00001849379300121
因此,NVi的计算式为公式(6)。
Figure BDA00001849379300122
其中,nq为查询视频片段中的子片段数目。当τi>0时,表明集合OIi中仍然有剩余的可匹配子片段,OSi ∪ NSi-1≠NSi-1表明相似子片段集OSi中有可匹配的相似子片段与当前查询子片段匹配。τi=0表明相似子片段集OIi中的所有相似子片段已经与当前查询子片段之前的查询子片段匹配,不能再与当前查询子片段匹配。
匹配度的计算。设查询片段为Vq,子片段数为nq,当前滑动子片段窗中的子片段集合为Vw,窗口的大小为len,对于
Figure BDA00001849379300123
的相似子片段集为Si
则视频片段Vq和Vw的匹配度的计算公式如公式(7)所示。
m qw = NV n q len - - - ( 7 )
其中
Figure BDA00001849379300125
表示查询视频和滑动窗口中一一对应的视频子片段数目。
相似片段精度定位的具体做法如下述所示。
输入:一个查询视频对象的子片段序列Vq={Cq1,Cq2,...,Cqn},候选视频集Vc={Cc1,Cc2,...,Ccn}。
输出:ns个相似视频片段,即相似片段集。
(1)初始化,输入查询视频子片段序列Vq,以及候选视频集子片段序列Vc,设定滑动窗口的大小len=1.5×nq
(2)如果候选视频集子片段序列为空,算法停止,否则转第(3)步。
(3)对于候选视频集子片段序列Vc中的每一个子片段Cci,如果Cci至少与查询视频Vq中的一个子片段相似,则把Cci记为Mcj,得到一组相似子片段的集合MClip={Mc1,Mc2,…,Mcn}。
(4)计算匹配度mqw。如果相似子片段集合MClip为空,算法停止,否则在当前相似子片段Mcj,1≤j≤n的位置使用滑动子片段窗口;计算查询视频片段Vq与滑动子片段窗中片段Vw的匹配度mqw,如果mqw≥β转第(5)步,否则j=j+1,转第(4)步。
(5)以一个子片段的增量移动滑动子片段窗口,计算每个子片段窗中视频片段Vw与查询视频片段Vq的匹配度mqw
(6)确定相似视频。滑动子片段窗口后移窗口长度个单位后,选取匹配度大于等于β局部最大值中匹配度最大值所对应的序号就是相似片段的起始位置,从此位置处开始取与滑动子片段窗口子片段个数相等的后续若干个子片段作为相似片段。
j=j+1,转至(4)。
其中,β的作用是选择使用滑动子片段窗口的子片段,只有当相似子片段对应的子片段窗中片段与查询片段的匹配度大于β时才继续进行匹配度计算,否则忽略该相似子片段Mcj,β的值可根据实验设定。
(4)相似度的排序
本方法中相似度的计算主要考虑包括视觉因子、时序因子以及干扰因子对相似度的影响。
视觉因子的计算如下述所示。用MaxCqs(i)表示查询片段Vq的某一个子片段Cqi,与相似片段Vs中所有子片段的相似度最大值,Vq的子片段个数为nq,则其计算公式为(8)。
MaxC qs ( i ) = max 1 ≤ i ≤ n q ( C qi , C sj ) - - - ( 8 )
其中,Csj为相似视频的某一子片段。
同理,用MaxCsq(i)表示相似片段Vs的某一个子片段Csi,与查询片段Vq中所有子片段的相似度最大值,Vs的子片段个数为ns,则其计算公式为(9)。
MaxC sq ( i ) = max 1 ≤ i ≤ n s ( C si , C qj ) - - - ( 9 )
其中,Cqj为查询片段Vq的某一子片段。
视觉因子定义如公式(10)所示。
f v = 1 2 ( MaxC qs ‾ + MaxC sq ‾ ) - - - ( 10 )
顺序因子定义式为(11)所示。
f o = LCS ( i , j ) n q - - - ( 11 )
其中nq为查询视频的子片段个数,LCS(i,j)为查询片段与相似片段Vs的最长公共子序列的长度。
干扰因子计算式为公式(12)。
f i = 1 - N d n q + n s - - - ( 12 )
其中nq、ns分别表示查询片段Vq与相似片段Vs中子片段的数量,Nd表示查询片段Vq与相似片段Vs中找不到对应的相似子片段的子片段总个数。
综合考虑视觉因子、时序因子以及干扰因子对相似度的影响,定义查询片段Vq与它的相似片段Vs的总体相似程度计算式为(13)。
S(Vq,Vs)=ωv×fvo×foi×fivoi=1)(13)
其中ωv、ωo、ωi分别为视觉因子、顺序因子及干扰因子的权重值,该值可以通过实验得出。本方法通过利用公式(13),计算候选相似片段集中所有候选视频片段与查询视频片段的总体相似度,并按照相似度高低得到最终结果。
以上公开的仅为本发明的具体实例,根据本发明提供的思想,本领域的技术人员能思及的变化,都应落入本发明的保护范围内。

Claims (5)

1.一种基于体育比赛视频的相似片段检索方法,包括以下步骤:
步骤一:对视频库中的所有视频进行预处理,分别采用基于颜色相似性的子片段分割方法和基于亮度差异性的子片段分割方法将每个视频分割为若干视频子片段,对每个视频子片段提取其中的关键帧,对每一关键帧提取颜色和亮度特征,组成视频特征库;
步骤二:对于步骤一中得到的所有特征采用K-D tree结构进行存储,每一个特征都作为K-D tree中的一个节点,特征值大于该层分辨器值的特征作为右子树,特征值小于等于该层分辨器值的特视作为左子树,视频特征库中的所有特征构建成一棵K-D tree;
步骤三:对待查询视频片段分别采用基于颜色相似性的子片段分割方法和基于亮度差异性的子片段分割方法法将其分割为若干视频子片段,对每个视频子片段提取其中的关键帧,对每一关键帧提取颜色和亮度特征,作为查询条件;
步骤四:首先,通过将查询条件与视频特征库中的特征进行对比找到待查询视频片段中所有视频子片段的相似子片段集,对所得到的所有相似子片段集求交集,并由所求交集确定候选视频集;其次,对候选视频集中所有视频采用滑动子片段窗口进行相似片段的精确定位,采用如下公式(1)计算滑动子片段窗口中的视频片段与待查询视频片段的匹配度mqw
m qw = NV n q len - - - ( 1 )
其中
Figure FDA00001849379200012
表示待查询视频片段和滑动子片段窗口中一一对应的视频子片段数目,len为滑动子片段窗口中视频子片段的总数目;如果匹配度小于给定阈值时,将所述窗口以一个视频子片段为步长向前移动,直到匹配度大于所述给定阈值,此时所述窗口的前端为相似片段的起始位置;
步骤五:根据步骤四中得到相似片段,按照如下相似度计算公式(2)计算待查询视频片段与相似片段的相似度S(Vq,Vs);
S(Vq,Vs)=ωv×fvo×foi×fi            (2)
其中fv、fo、fi分别为视觉因子、顺序因子及干扰因子,ωv、ω0、ωi分别为视觉因子、顺序因子及干扰因子的权重值;
步骤六:根据上述计算得到的相似度,确定最终的相似视频。
2.如权利要求1所述的方法,其特征在于:所述步骤一和所述步骤三中关键帧选取视频子片段的首帧作为其关键帧。
3.如权利要求1所述的方法,其特征在于:所述步骤四中滑动子片段窗口的大小优选为滑动子片段窗口中视频子片段的总数目的1.6倍。
4.如权利要求1所述的方法,其特征在于:所述步骤五中视觉因子优选为待查询视频片段与相似片段所有视频子片段的相似度平均值;顺序因子优选为待查询视频片段与相似片段所包含的相同顺序的最长视频子片段数目占待查询视频片段中视频子片段的总数目的比例;干扰因子优选为待查询视频片段与相似片段中所有找不到对应的相似视频子片段数目。
5.如权利要求1所述的方法,其特征在于:所述步骤五中ωv、ω0、ωi分别优选为0.25、0.5、0.25。
CN201210230108.0A 2012-07-04 2012-07-04 一种基于体育比赛视频的相似视频片段检索方法 Active CN102890700B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201210230108.0A CN102890700B (zh) 2012-07-04 2012-07-04 一种基于体育比赛视频的相似视频片段检索方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201210230108.0A CN102890700B (zh) 2012-07-04 2012-07-04 一种基于体育比赛视频的相似视频片段检索方法

Publications (2)

Publication Number Publication Date
CN102890700A true CN102890700A (zh) 2013-01-23
CN102890700B CN102890700B (zh) 2015-05-13

Family

ID=47534203

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201210230108.0A Active CN102890700B (zh) 2012-07-04 2012-07-04 一种基于体育比赛视频的相似视频片段检索方法

Country Status (1)

Country Link
CN (1) CN102890700B (zh)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103177099A (zh) * 2013-03-20 2013-06-26 深圳先进技术研究院 视频比对方法及系统
CN103905695A (zh) * 2014-04-10 2014-07-02 中央电视台 一种素材处理方法及装置
CN106682108A (zh) * 2016-12-06 2017-05-17 浙江大学 一种基于多模态卷积神经网络的视频检索方法
CN107066488A (zh) * 2016-12-27 2017-08-18 上海东方明珠新媒体股份有限公司 基于影视内容语义分析的影视桥段自动分割方法
CN108733737A (zh) * 2017-04-25 2018-11-02 合信息技术(北京)有限公司 视频库的建立方法及装置
CN108763295A (zh) * 2018-04-18 2018-11-06 复旦大学 一种基于深度学习的视频近似拷贝检索算法
CN110598014A (zh) * 2019-09-27 2019-12-20 腾讯科技(深圳)有限公司 一种多媒体数据处理方法、装置及存储介质
CN111047558A (zh) * 2019-11-20 2020-04-21 深圳市康冠智能科技有限公司 图像检测方法、装置、计算机设备以及存储介质
CN111209439A (zh) * 2020-01-10 2020-05-29 北京百度网讯科技有限公司 视频片段检索方法、装置、电子设备及存储介质
CN111522996A (zh) * 2020-04-09 2020-08-11 北京百度网讯科技有限公司 视频片段的检索方法和装置
CN112836600A (zh) * 2021-01-19 2021-05-25 新华智云科技有限公司 一种视频相似度的计算方法与系统
CN113033662A (zh) * 2021-03-25 2021-06-25 北京华宇信息技术有限公司 多视频关联方法及装置
CN113079420A (zh) * 2020-01-03 2021-07-06 北京三星通信技术研究有限公司 视频生成方法、装置、电子设备及计算机可读存储介质
CN113886632A (zh) * 2021-12-03 2022-01-04 杭州并坚科技有限公司 一种基于动态规划的视频检索匹配方法
CN117076712A (zh) * 2023-10-16 2023-11-17 中国科学技术大学 视频检索方法、系统、设备及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008016102A1 (fr) * 2006-08-03 2008-02-07 Nec Corporation dispositif de calcul de similarité et dispositif de recherche d'informations
EP2257057A1 (en) * 2008-03-19 2010-12-01 National University Corporation Hokkaido University Dynamic image search device and dynamic image search program
CN102254006A (zh) * 2011-07-15 2011-11-23 上海交通大学 基于内容的互联网视频检索方法
CN102419750A (zh) * 2010-09-27 2012-04-18 北京中星微电子有限公司 一种视频检索方法及系统

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008016102A1 (fr) * 2006-08-03 2008-02-07 Nec Corporation dispositif de calcul de similarité et dispositif de recherche d'informations
EP2257057A1 (en) * 2008-03-19 2010-12-01 National University Corporation Hokkaido University Dynamic image search device and dynamic image search program
CN102419750A (zh) * 2010-09-27 2012-04-18 北京中星微电子有限公司 一种视频检索方法及系统
CN102254006A (zh) * 2011-07-15 2011-11-23 上海交通大学 基于内容的互联网视频检索方法

Cited By (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103177099A (zh) * 2013-03-20 2013-06-26 深圳先进技术研究院 视频比对方法及系统
CN103177099B (zh) * 2013-03-20 2017-05-24 深圳先进技术研究院 视频比对方法及系统
CN103905695A (zh) * 2014-04-10 2014-07-02 中央电视台 一种素材处理方法及装置
CN103905695B (zh) * 2014-04-10 2018-01-09 中央电视台 一种素材处理方法及装置
CN106682108A (zh) * 2016-12-06 2017-05-17 浙江大学 一种基于多模态卷积神经网络的视频检索方法
CN106682108B (zh) * 2016-12-06 2022-07-12 浙江大学 一种基于多模态卷积神经网络的视频检索方法
CN107066488A (zh) * 2016-12-27 2017-08-18 上海东方明珠新媒体股份有限公司 基于影视内容语义分析的影视桥段自动分割方法
CN107066488B (zh) * 2016-12-27 2021-08-06 东方明珠新媒体股份有限公司 基于影视内容语义分析的影视桥段自动分割方法
CN108733737B (zh) * 2017-04-25 2021-02-09 阿里巴巴(中国)有限公司 视频库的建立方法及装置
CN108733737A (zh) * 2017-04-25 2018-11-02 合信息技术(北京)有限公司 视频库的建立方法及装置
CN108763295A (zh) * 2018-04-18 2018-11-06 复旦大学 一种基于深度学习的视频近似拷贝检索算法
CN108763295B (zh) * 2018-04-18 2021-04-30 复旦大学 一种基于深度学习的视频近似拷贝检索算法
CN110598014A (zh) * 2019-09-27 2019-12-20 腾讯科技(深圳)有限公司 一种多媒体数据处理方法、装置及存储介质
CN111047558A (zh) * 2019-11-20 2020-04-21 深圳市康冠智能科技有限公司 图像检测方法、装置、计算机设备以及存储介质
CN113079420A (zh) * 2020-01-03 2021-07-06 北京三星通信技术研究有限公司 视频生成方法、装置、电子设备及计算机可读存储介质
CN111209439B (zh) * 2020-01-10 2023-11-21 北京百度网讯科技有限公司 视频片段检索方法、装置、电子设备及存储介质
CN111209439A (zh) * 2020-01-10 2020-05-29 北京百度网讯科技有限公司 视频片段检索方法、装置、电子设备及存储介质
CN111522996B (zh) * 2020-04-09 2023-09-08 北京百度网讯科技有限公司 视频片段的检索方法和装置
CN111522996A (zh) * 2020-04-09 2020-08-11 北京百度网讯科技有限公司 视频片段的检索方法和装置
US11625433B2 (en) 2020-04-09 2023-04-11 Beijing Baidu Netcom Science And Technology Co., Ltd. Method and apparatus for searching video segment, device, and medium
CN112836600B (zh) * 2021-01-19 2023-12-22 新华智云科技有限公司 一种视频相似度的计算方法与系统
CN112836600A (zh) * 2021-01-19 2021-05-25 新华智云科技有限公司 一种视频相似度的计算方法与系统
CN113033662A (zh) * 2021-03-25 2021-06-25 北京华宇信息技术有限公司 多视频关联方法及装置
CN113886632B (zh) * 2021-12-03 2022-04-01 杭州并坚科技有限公司 一种基于动态规划的视频检索匹配方法
CN113886632A (zh) * 2021-12-03 2022-01-04 杭州并坚科技有限公司 一种基于动态规划的视频检索匹配方法
CN117076712A (zh) * 2023-10-16 2023-11-17 中国科学技术大学 视频检索方法、系统、设备及存储介质
CN117076712B (zh) * 2023-10-16 2024-02-23 中国科学技术大学 视频检索方法、系统、设备及存储介质

Also Published As

Publication number Publication date
CN102890700B (zh) 2015-05-13

Similar Documents

Publication Publication Date Title
CN102890700B (zh) 一种基于体育比赛视频的相似视频片段检索方法
US10394878B2 (en) Associating still images and videos
Wang et al. Contextual weighting for vocabulary tree based image retrieval
US8892542B2 (en) Contextual weighting and efficient re-ranking for vocabulary tree based image retrieval
Zakariya et al. Combining visual features of an image at different precision value of unsupervised content based image retrieval
CN108460114B (zh) 一种基于层次注意力模型的图像检索方法
Thepade et al. Assessment of similarity measurement criteria in Thepade's sorted ternary block truncation coding (TSTBTC) for content based video retrieval
CN102902826A (zh) 一种基于基准图像索引的图像快速检索方法
CN103440262A (zh) 基于相关反馈和Bag-of-Features的图像检索系统及方法
Vimina et al. A sub-block based image retrieval using modified integrated region matching
Jain et al. Content base image retrieval using combination of color, shape and texture features
Dharani et al. Content based image retrieval system using feature classification with modified KNN algorithm
CN110956213A (zh) 遥感影像特征库生成、遥感影像检索方法及装置
Feng et al. An efficient indexing method for content-based image retrieval
Aly et al. Towards automated large scale discovery of image families
Memon et al. Region based localized matching image retrieval system using color-size features for image retrieval
CN104850600A (zh) 一种用于搜索包含人脸的图片的方法和装置
Sirirattanapol et al. Deep image retrieval applied on kotenseki ancient japanese literature
Zakariya et al. Unsupervised content based image retrieval by combining visual features of an image with a threshold
Ragatha et al. Image query based search engine using image content retrieval
c Neethu et al. Retrieval of images using data mining techniques
Vijayashanthi et al. Survey on recent advances in content based image retrieval techniques
Karamti et al. Vectorization of content-based image retrieval process using neural network
Patwal et al. A content-based indexing system for image retrieval
Vimina et al. An efficient multi query system for content based image retrieval using query replacement

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20180425

Address after: 100015 Beijing Chaoyang District Jiuxianqiao North Road 7 66 66 to two tier 006

Patentee after: Beijing Zhixing Yi hang Intelligent Technology Co., Ltd.

Address before: 100191 Xueyuan Road, Haidian District, Beijing, No. 37

Patentee before: Beihang University

CP01 Change in the name or title of a patent holder
CP01 Change in the name or title of a patent holder

Address after: 100015 Beijing Chaoyang District Jiuxianqiao North Road 7 66 66 to two tier 006

Patentee after: Beijing Yihang Zhiyuan Technology Co., Ltd.

Address before: 100015 Beijing Chaoyang District Jiuxianqiao North Road 7 66 66 to two tier 006

Patentee before: Beijing Zhixing Yi hang Intelligent Technology Co., Ltd.

TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20201203

Address after: 100015 Beijing Chaoyang District Jiuxianqiao North Road No. 76 Building One Floor 007

Patentee after: Beijing Yihangyuan Intelligent Technology Co.,Ltd.

Address before: 100015 Beijing Chaoyang District Jiuxianqiao North Road 7 66 66 to two tier 006

Patentee before: Beijing Yihang Zhiyuan Technology Co.,Ltd.