视频的标签确定方法及装置
技术领域
本公开涉及视频技术领域,尤其涉及一种视频的标签确定方法及装置。
背景技术
相关技术中主要通过以下几种方式确定视频的标签。第一种方式为,视频上传者在上传视频时添加标签,视频网站后台审核时根据视频内容判断标签的准确性并进行调整。这种人工打标签的方式耗费人力和物力,且时效性较差。第二种方式为,对视频的每帧图像进行字幕识别,根据字幕确定视频的标签。在这种方式中,字幕可能被篡改,或者字幕可能是用户评论,与视频内容的关联不大。因此,采用这种方式确定的视频标签的准确性较低。第三种方式为,对视频的每帧图像的场景和物体进行识别,根据场景和物体确定视频的标签。这种方式需要训练场景和物体对应的多个分类器,且需要多个分类器配合操作,流程复杂,耗时较大,且只能识别单个视频帧的场景和物体,确定视频整体的标签的效果较差。第四种方式为,获取视频的时长和是否付费等属性,根据这些属性确定视频的标签。由于视频的属性与视频内容的关联不大,因此采用这种方式确定的视频标签的准确性较低。第五种方式为,对视频简介进行分词,根据分词结果提取关键词作为视频标签。由于视频简介不一定准确,因此采用这种方式确定的视频标签的准确性较低。
发明内容
有鉴于此,本公开提出了一种视频的标签确定方法及装置,以在保证确定视频标签的效率的前提下,提高确定视频标签的准确性。
根据本公开的一方面,提供了一种视频的标签确定方法,包括:
将视频划分为多个视频片段;
将各个视频片段分别输入特征提取模型,得到各个视频片段的特征;
将各个视频片段的特征分别输入标签提取模型,得到各个视频片段的备选标签以及各个备选标签的置信度;
对于第一视频片段,根据所述第一视频片段的各个备选标签的置信度,和/或与所述第一视频片段相邻的视频片段的标签,确定所述第一视频片段的推荐标签,其中,所述第一视频片段为所述视频的任意一个视频片段,与所述第一视频片段相邻的视频片段的标签包括与所述第一视频片段相邻的视频片段的推荐标签和/或备选标签;
根据各个视频片段的推荐标签,确定所述视频的标签。
在一种可能的实现方式中,根据所述第一视频片段的各个备选标签的置信度,和/或与所述第一视频片段相邻的视频片段的标签,确定所述第一视频片段的推荐标签,包括:
在所述第一视频片段的第一备选标签的置信度满足第一条件的情况下,将所述第一备选标签确定为所述第一视频片段的推荐标签,其中,所述第一备选标签为所述第一视频片段的任意一个备选标签。
在一种可能的实现方式中,所述第一条件为:
所述第一备选标签的置信度大于第一阈值;或者,
所述第一备选标签为所述第一视频片段的各个备选标签中置信度最大的备选标签,且所述第一备选标签的置信度与第二备选标签的置信度的差值大于第二阈值,其中,所述第二备选标签为所述第一视频片段的各个备选标签中置信度仅小于所述第一备选标签的备选标签。
在一种可能的实现方式中,根据所述第一视频片段的各个备选标签的置信度,和/或与所述第一视频片段相邻的视频片段的标签,确定所述第一视频片段的推荐标签,包括:
在所述第一视频片段不为所述视频的首个视频片段,所述第一视频片段的第三备选标签与第二视频片段的推荐标签相同,且所述第三备选标签的置信度满足第二条件的情况下,将所述第三备选标签确定为所述第一视频片段的推荐标签,其中,所述第三备选标签为所述第一视频片段的任意一个备选标签,所述第二视频片段为所述第一视频片段的上一个视频片段。
在一种可能的实现方式中,所述第二条件为:
所述第三备选标签的置信度大于第三阈值;或者,
所述第三备选标签不为所述第一视频片段的各个备选标签中置信度最大的备选标签,且所述第一视频片段的各个备选标签中置信度最大的备选标签与所述第三备选标签的置信度之差小于第四阈值。
在一种可能的实现方式中,根据各个视频片段的推荐标签,确定所述视频的标签,包括:
统计各个推荐标签对应的视频片段个数;
将对应的视频片段个数最多的推荐标签确定为所述视频的标签。
在一种可能的实现方式中,所述方法还包括:
获取第一训练样本集,所述第一训练样本集包括多个图像样本;
对各个图像样本进行图像处理,得到各个图像样本对应的变形样本;
根据各个图像样本和各个变形样本训练得到所述特征提取模型,所述特征提取模型提取的特征具备亮度不变性、旋转不变性和尺度不变性。
在一种可能的实现方式中,图像处理包括以下至少一种方式:
增加噪声、伽马变换、方向变换、尺寸变换和镜像变换。
在一种可能的实现方式中,所述方法还包括:
获取第二训练样本集,所述第二训练样本集包括多个视频样本以及各个视频样本的标签;
采用特征提取模型提取各个视频样本的特征;
根据各个视频样本的特征和各个视频样本的标签,训练得到所述标签提取模型。
根据本公开的另一方面,提供了一种视频的标签确定装置,包括:
划分模块,用于将视频划分为多个视频片段;
第一提取模块,用于将各个视频片段分别输入特征提取模型,得到各个视频片段的特征;
第二提取模块,用于将各个视频片段的特征分别输入标签提取模型,得到各个视频片段的备选标签以及各个备选标签的置信度;
第一确定模块,用于对于第一视频片段,根据所述第一视频片段的各个备选标签的置信度,和/或与所述第一视频片段相邻的视频片段的标签,确定所述第一视频片段的推荐标签,其中,所述第一视频片段为所述视频的任意一个视频片段,与所述第一视频片段相邻的视频片段的标签包括与所述第一视频片段相邻的视频片段的推荐标签和/或备选标签;
第二确定模块,用于根据各个视频片段的推荐标签,确定所述视频的标签。
在一种可能的实现方式中,所述第一确定模块包括:
第一确定子模块,用于在所述第一视频片段的第一备选标签的置信度满足第一条件的情况下,将所述第一备选标签确定为所述第一视频片段的推荐标签,其中,所述第一备选标签为所述第一视频片段的任意一个备选标签。
在一种可能的实现方式中,所述第一条件为:
所述第一备选标签的置信度大于第一阈值;或者,
所述第一备选标签为所述第一视频片段的各个备选标签中置信度最大的备选标签,且所述第一备选标签的置信度与第二备选标签的置信度的差值大于第二阈值,其中,所述第二备选标签为所述第一视频片段的各个备选标签中置信度仅小于所述第一备选标签的备选标签。
在一种可能的实现方式中,所述第一确定模块包括:
第二确定子模块,用于在所述第一视频片段不为所述视频的首个视频片段,所述第一视频片段的第三备选标签与第二视频片段的推荐标签相同,且所述第三备选标签的置信度满足第二条件的情况下,将所述第三备选标签确定为所述第一视频片段的推荐标签,其中,所述第三备选标签为所述第一视频片段的任意一个备选标签,所述第二视频片段为所述第一视频片段的上一个视频片段。
在一种可能的实现方式中,所述第二条件为:
所述第三备选标签的置信度大于第三阈值;或者,
所述第三备选标签不为所述第一视频片段的各个备选标签中置信度最大的备选标签,且所述第一视频片段的各个备选标签中置信度最大的备选标签与所述第三备选标签的置信度之差小于第四阈值。
在一种可能的实现方式中,所述第二确定模块包括:
统计子模块,用于统计各个推荐标签对应的视频片段个数;
第三确定子模块,用于将对应的视频片段个数最多的推荐标签确定为所述视频的标签。
在一种可能的实现方式中,所述装置还包括:
第一获取模块,用于获取第一训练样本集,所述第一训练样本集包括多个图像样本;
图像处理模块,用于对各个图像样本进行图像处理,得到各个图像样本对应的变形样本;
第一模型训练模块,用于根据各个图像样本和各个变形样本训练得到所述特征提取模型,所述特征提取模型提取的特征具备亮度不变性、旋转不变性和尺度不变性。
在一种可能的实现方式中,图像处理包括以下至少一种方式:
增加噪声、伽马变换、方向变换、尺寸变换和镜像变换。
在一种可能的实现方式中,所述装置还包括:
第二获取模块,用于获取第二训练样本集,所述第二训练样本集包括多个视频样本以及各个视频样本的标签;
第三提取模块,用于采用特征提取模型提取各个视频样本的特征;
第二模型训练模块,用于根据各个视频样本的特征和各个视频样本的标签,训练得到所述标签提取模型。
根据本公开的另一方面,提供了一种视频的标签确定装置,包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为执行上述方法。
根据本公开的另一方面,提供了一种非易失性计算机可读存储介质,当所述存储介质中的指令由终端和/或服务器的处理器执行时,使得终端和/或服务器能够执行上述方法。
本公开的各方面的视频的标签确定方法及装置根据各个视频片段的各个备选标签的置信度和/或相邻的视频片段的标签,确定各个视频片段的推荐标签,并根据各个视频片段的推荐标签确定视频的标签,由此能够在保证确定视频片段及视频的标签的效率的前提下,提高确定视频片段及视频的标签的准确性。
根据下面参考附图对示例性实施例的详细说明,本公开的其它特征及方面将变得清楚。
附图说明
包含在说明书中并且构成说明书的一部分的附图与说明书一起示出了本公开的示例性实施例、特征和方面,并且用于解释本公开的原理。
图1示出根据本公开一实施例的视频的标签确定方法的流程图。
图2示出根据本公开一实施例的视频的标签确定方法步骤S105的一示例性的流程图。
图3示出根据本公开一实施例的视频的标签确定方法的一示例性的流程图。
图4示出根据本公开一实施例的视频的标签确定方法的一示例性的流程图。
图5示出根据本公开一实施例的视频的标签确定方法的一示例性的流程图。
图6示出根据本公开一实施例的视频的标签确定装置的框图。
图7示出根据本公开一实施例的视频的标签确定装置的一示例性的框图。
图8是根据一示例性实施例示出的一种用于视频的标签确定的装置1900的框图。
具体实施方式
以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面,但是除非特别指出,不必按比例绘制附图。
在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。
另外,为了更好的说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。
实施例1
图1示出根据本公开一实施例的视频的标签确定方法的流程图。该方法可以应用于服务器或者PC(Personal Computer,个人计算机)等装置中,在此不作限定。如图1所示,该方法包括步骤S101至步骤S105。
在步骤S101中,将视频划分为多个视频片段。
在本实施例中,将待确定标签的视频划分为多个视频片段。该视频可以为在线视频或者本地视频,在此不作限定。在该视频为在线视频的情况下,可以确定该在线视频的URL(Uniform Resource Locator,统一资源定位符),以获取该在线视频。
在一种可能的实现方式中,可以确定该视频的各个场景切换帧,根据各个场景切换帧的位置,将视频划分为多个视频片段。例如,场景切换帧A为场景切换帧B的前一个场景切换帧,场景切换帧B为场景切换帧C的前一个场景切换帧,则可以将该视频中场景切换帧A至场景切换帧B的前一帧的部分作为视频片段1,将场景切换帧B至场景切换帧C的前一帧的部分作为视频片段2。根据各个场景切换帧的位置将视频划分为多个视频片段,有助于将属于同一场景的视频帧划分进同一视频片段中,由此在后续提取视频片段的备选标签时,避免不同的场景之间产生影响,从而有助于提高备选标签的置信度。
作为该实现方式的一个示例,可以将该视频的首个视频帧作为首个场景切换帧;从第二个视频帧开始,计算视频帧与该视频帧的上一场景切换帧的相似度;若相似度大于第六阈值,则不将该视频帧作为场景切换帧;若相似度小于或等于第六阈值,则将该视频帧作为场景切换帧。例如,若该视频的第二个视频帧与首个视频帧的相似度大于第六阈值,则不将第二个视频帧作为场景切换帧;若第三个视频帧与首个视频帧的相似度大于第六阈值,则不将第三个视频帧作为场景切换帧;若第四个视频帧与首个视频帧的相似度小于或等于第六阈值,则将第四个视频帧作为场景切换帧;若第五个视频帧与第四个视频帧的相似度大于第六阈值,则不将第五个视频帧作为场景切换帧;若第六个视频帧与第四个视频帧的相似度大于第六阈值,则不将第六个视频帧作为场景切换帧;以此类推。
在另一种可能的实现方式中,可以以第一时间间隔将该视频划分为多个视频片段。例如,第一时间间隔可以为90秒,可以将该视频的0秒至90秒的部分作为视频片段1,将该视频的91秒至180秒的部分作为视频片段2,以此类推。
在步骤S102中,将各个视频片段分别输入特征提取模型,得到各个视频片段的特征。
作为本实施例的一个示例,可以采用特征提取模型提取各个视频片段的各个视频帧的特征。
作为本实施例的一个示例,在采用特征提取模型提取各个视频片段的特征之后,还可以根据提取的视频片段的特征数量进行降维及重新编码,以提高提取视频片段的备选标签的效率。例如,可以采用PCA(Principal Component Analysis,主成分分析)或者费舍尔向量编码(Fisher Vector Coding)等方法对特征提取模型提取的特征进行降维及重新编码,在此不作限定。
在步骤S103中,将各个视频片段的特征分别输入标签提取模型,得到各个视频片段的备选标签以及各个备选标签的置信度。
例如,在将某一视频片段的特征输入标签提取模型后,可以将标签提取模型提取的置信度排序前3的标签作为该视频片段的备选标签。
在步骤S104中,对于第一视频片段,根据第一视频片段的各个备选标签的置信度,和/或与第一视频片段相邻的视频片段的标签,确定第一视频片段的推荐标签,其中,第一视频片段为该视频的任意一个视频片段,与第一视频片段相邻的视频片段的标签包括与第一视频片段相邻的视频片段的推荐标签和/或备选标签。
在一种可能的实现方式中,可以根据第一视频片段的各个备选标签的置信度,确定第一视频片段的推荐标签。
在另一种可能的实现方式中,可以根据与第一视频片段相邻的视频片段的标签,确定第一视频片段的推荐标签。
作为该实现方式的一个示例,可以根据与第一视频片段相邻的视频片段的推荐标签,确定第一视频片段的推荐标签。
作为该实现方式的另一个示例,可以根据与第一视频片段相邻的视频片段的备选标签,确定第一视频片段的推荐标签。
作为该实现方式的另一个示例,可以根据与第一视频片段相邻的视频片段的推荐标签和备选标签,确定第一视频片段的推荐标签。
在另一种可能的实现方式中,可以根据第一视频片段的各个备选标签的置信度,以及与第一视频片段相邻的视频片段的标签,确定第一视频片段的推荐标签。
作为该实现方式的一个示例,可以根据第一视频片段的各个备选标签的置信度,以及与第一视频片段相邻的视频片段的推荐标签,确定第一视频片段的推荐标签。
作为该实现方式的另一个示例,可以根据第一视频片段的各个备选标签的置信度,以及与第一视频片段相邻的视频片段的备选标签,确定第一视频片段的推荐标签。
作为该实现方式的另一个示例,可以根据第一视频片段的各个备选标签的置信度,以及与第一视频片段相邻的视频片段的推荐标签和备选标签,确定第一视频片段的推荐标签。
在步骤S105中,根据各个视频片段的推荐标签,确定该视频的标签。
在一种可能的实现方式中,可以将对应的视频片段个数最多的一个推荐标签确定为该视频的标签。
在另一种可能的实现方式中,可以将对应的视频片段个数最多的N个推荐标签确定为该视频的标签,其中,N大于或等于2。
本实施例能够在保证确定视频片段及视频的标签的效率的前提下,提高确定视频片段及视频的标签的准确性。
在一种可能的实现方式中,根据第一视频片段的各个备选标签的置信度,和/或与第一视频片段相邻的视频片段的标签,确定第一视频片段的推荐标签,可以包括:在第一视频片段的第一备选标签的置信度满足第一条件的情况下,将第一备选标签确定为第一视频片段的推荐标签,其中,第一备选标签为第一视频片段的任意一个备选标签。根据该实现方式,可以在第一备选标签的置信度远大于其他备选标签的置信度的情况下,直接将第一备选标签确定为第一视频片段的推荐标签。
作为该实现方式的一个示例,第一条件可以为:第一备选标签的置信度大于第一阈值。例如,第一阈值为0.8,视频片段A的备选标签包括“钓鱼”、“跑步”和“遛狗”,其中,备选标签“钓鱼”的置信度为0.9,备选标签“跑步”的置信度为0.08,备选标签“遛狗”的置信度为0.01,则可以将备选标签“钓鱼”确定为视频片段A的推荐标签。
作为该实现方式的另一个示例,第一条件可以为:第一备选标签为第一视频片段的各个备选标签中置信度最大的备选标签,且第一备选标签的置信度与第二备选标签的置信度的差值大于第二阈值,其中,第二备选标签为第一视频片段的各个备选标签中置信度仅小于第一备选标签的备选标签。例如,第二阈值为0.6,视频片段A的备选标签包括“钓鱼”、“跑步”和“遛狗”,其中,备选标签“钓鱼”的置信度为0.9,备选标签“跑步”的置信度为0.08,备选标签“遛狗”的置信度为0.01,备选标签“钓鱼”为视频片段A的各个备选标签中置信度最大的备选标签,备选标签“跑步”为视频片段A的各个备选标签中置信度仅小于备选标签“钓鱼”的备选标签,备选标签“钓鱼”的置信度与备选标签“跑步”的差值大于0.6,则可以将备选标签“钓鱼”确定为视频片段A的推荐标签。
在另一种可能的实现方式中,根据第一视频片段的各个备选标签的置信度,和/或与第一视频片段相邻的视频片段的标签,确定第一视频片段的推荐标签,可以包括:在第一视频片段不为该视频的首个视频片段,第一视频片段的第三备选标签与第二视频片段的推荐标签相同,且第三备选标签的置信度满足第二条件的情况下,将第三备选标签确定为第一视频片段的推荐标签,其中,第三备选标签为第一视频片段的任意一个备选标签,第二视频片段为第一视频片段的上一个视频片段。
作为该实现方式的一个示例,第二条件可以为:第三备选标签的置信度大于第三阈值。例如,第三阈值为0.3,视频片段A为该视频的首个视频片段,视频片段B为该视频的第二个视频片段。视频片段A的推荐标签为“钓鱼”。视频片段B的备选标签包括“滑雪”“钓鱼”“浇花”,其中,备选标签“滑雪”的置信度为0.43,备选标签“钓鱼”的置信度为0.40,备选标签“浇花”的置信度为0.15。其中,视频片段B的备选标签“钓鱼”与视频片段A的推荐标签相同,且视频片段B的备选标签“钓鱼”的置信度大于0.3,则可以将备选标签“钓鱼”确定为视频片段B的推荐标签。在该示例中,视频片段B的第一名的备选标签“滑雪”与第二名的备选标签“钓鱼”的置信度相差较小,且考虑到与视频片段A的时序关系,可以确定视频片段B为钓鱼或者相关行为的可能性较大,为滑雪或者相关行为的可能性较小,因此可以将“钓鱼”确定为视频片段B的推荐标签。
作为该实现方式的另一个示例,第二条件可以为:第三备选标签不为第一视频片段的各个备选标签中置信度最大的备选标签,且第一视频片段的各个备选标签中置信度最大的备选标签与第三备选标签的置信度之差小于第四阈值。例如,第四阈值为0.2,视频片段A为该视频的首个视频片段,视频片段B为该视频的第二个视频片段。视频片段A的推荐标签为“钓鱼”。视频片段B的备选标签包括“滑雪”“钓鱼”“浇花”,其中,备选标签“滑雪”的置信度为0.43,备选标签“钓鱼”的置信度为0.40,备选标签“浇花”的置信度为0.15,备选标签“滑雪”为视频片段B的各个备选标签中置信度最大的备选标签。其中,视频片段B的备选标签“钓鱼”与视频片段A的推荐标签相同,且视频片段B的备选标签“钓鱼”与备选标签“浇花”的置信度的差值小于0.2,则可以将备选标签“钓鱼”确定为视频片段B的推荐标签。
在另一种可能的实现方式中,根据第一视频片段的各个备选标签的置信度,和/或与第一视频片段相邻的视频片段的标签,确定第一视频片段的推荐标签,可以包括:在第一视频片段不为该视频的首个视频片段,且第一视频片段、第二视频片段和第三视频片段同时具有第四备选标签的情况下,将第四备选标签确定为第一视频片段的推荐标签。其中,第四备选标签为第一视频片段的任意一个备选标签,第二视频片段为第一视频片段的上一个视频片段,第三视频片段为第一视频片段的下一个视频片段。
在另一种可能的实现方式中,根据第一视频片段的各个备选标签的置信度,和/或与第一视频片段相邻的视频片段的标签,确定第一视频片段的推荐标签,可以包括:将第一视频片段的各个备选标签中置信度最大的备选标签确定为第一视频片段的推荐标签。
图2示出根据本公开一实施例的视频的标签确定方法步骤S105的一示例性的流程图。如图2所示,根据各个视频片段的推荐标签,确定该视频的标签,包括:
在步骤S201中,统计各个推荐标签对应的视频片段个数。
在步骤S202中,将对应的视频片段个数最多的推荐标签确定为该视频的标签。
例如,对于视频A,各个视频片段的推荐包括滑雪、钓鱼和浇花,其中,滑雪对应的视频片段个数为10,钓鱼对应的视频片段个数为30,浇花对应的视频片段个数为2,则可以将钓鱼确定为该视频的标签。
图3示出根据本公开一实施例的视频的标签确定方法的一示例性的流程图。如图3所示,该方法可以包括步骤S301至步骤S308。
在步骤S301中,获取第一训练样本集,第一训练样本集包括多个图像样本。
在步骤S302中,对各个图像样本进行图像处理,得到各个图像样本对应的变形样本。
通过对各个图像样本进行图像处理,可以基于较少的图像样本得到较多的样本,以更好地训练特征提取模型。
在一种可能的实现方式中,图像处理可以包括以下至少一种方式:增加噪声、伽马(Gamma)变换、方向变换、尺寸变换和镜像变换。
在该示例中,通过对各个图像样本进行变形,并采用图像样本和变形样本一起训练特征提取模型,有助于提高特征提取模型的鲁棒性。
在步骤S303中,根据各个图像样本和各个变形样本训练得到特征提取模型,该特征提取模型提取的特征具备亮度不变性、旋转不变性和尺度不变性。
作为本实施例的一个示例,可以采用CNN(Convolutional Neural Network,卷积神经网络)深度学习、无监督的方法训练特征提取模型。
在其他示例中,还可以采用SVM(Support Vector Machine,支持向量机)、BPNN(Back Propagation Neural Network,反向传播神经网络)或者BoW(Bag of Words,词袋)模型等机器学习或者深度学习的方法训练特征提取模型。
作为本实施例的一个示例,该特征提取模型可以采用SIFT(Scale-InvariantFeature Transform,尺度不变特征变换)算法或者SURF(Speeded-Up Robust Features,加速稳健特征)算法等提取特征。
在步骤S304中,将视频划分为多个视频片段。
其中,对步骤S304参见上文对步骤S101的描述。
在步骤S305中,将各个视频片段分别输入特征提取模型,得到各个视频片段的特征。
其中,对步骤S305参见上文对步骤S102的描述。
在步骤S306中,将各个视频片段的特征分别输入标签提取模型,得到各个视频片段的备选标签以及各个备选标签的置信度。
其中,对步骤S306参见上文对步骤S103的描述。
在步骤S307中,对于第一视频片段,根据第一视频片段的各个备选标签的置信度,和/或与第一视频片段相邻的视频片段的标签,确定第一视频片段的推荐标签,其中,第一视频片段为该视频的任意一个视频片段,与第一视频片段相邻的视频片段的标签包括与第一视频片段相邻的视频片段的推荐标签和/或备选标签。
其中,对步骤S307参见上文对步骤S104的描述。
在步骤S308中,根据各个视频片段的推荐标签,确定该视频的标签。
其中,对步骤S308参见上文对步骤S105的描述。
图4示出根据本公开一实施例的视频的标签确定方法的一示例性的流程图。如图4所示,该方法可以包括步骤S401至步骤S408。
在步骤S401中,获取第二训练样本集,第二训练样本集包括多个视频样本以及各个视频样本的标签。
作为本实施例的一个示例,第二训练样本集中的各个视频样本的时间长度可以小于第五阈值。例如,第五阈值可以为10秒、30秒或者1分钟等,在此不作限定。即,在该示例中,可以采用短视频样本训练标签提取模型,以提高训练得到的标签提取模型的准确性。
例如,第二训练样本集中视频样本的标签可以包括滑雪、钓鱼、浇花、遛狗和弹琴等生活常见种类的标签。
在步骤S402中,采用特征提取模型提取各个视频样本的特征。
在本示例中,采用特征提取模型可以提取各个视频样本的各个视频帧的特征。
作为本实施例的一个示例,在采用特征提取模型提取各个视频样本的特征之后,还可以根据提取的视频样本的特征数量进行降维及重新编码,以提高训练标签提取模型的效率。例如,可以采用PCA、费舍尔向量编码等方法对特征提取模型提取的特征进行降维及重新编码,在此不作限定。
在步骤S403中,根据各个视频样本的特征和各个视频样本的标签,训练得到标签提取模型。
作为本实施例的一个示例,可以采用深度学习的方法,对各个视频样本的特征和各个视频样本的标签进行模型训练,得到标签提取模型。
作为本实施例的一个示例,在训练标签提取模型的过程中,可以根据需求变化增删带有标签的视频样本。
作为本实施例的一个示例,可以采用CNN深度学习的方法训练标签提取模型。
在其他示例中,还可以采用SVM、BPNN或者BoW模型等机器学习或者深度学习的方法训练标签提取模型。
在步骤S404中,将视频划分为多个视频片段。
其中,对步骤S404参见上文对步骤S101的描述。
在步骤S405中,将各个视频片段分别输入特征提取模型,得到各个视频片段的特征。
其中,对步骤S405参见上文对步骤S102的描述。
在步骤S406中,将各个视频片段的特征分别输入标签提取模型,得到各个视频片段的备选标签以及各个备选标签的置信度。
其中,对步骤S406参见上文对步骤S103的描述。
在步骤S407中,对于第一视频片段,根据第一视频片段的各个备选标签的置信度,和/或与第一视频片段相邻的视频片段的标签,确定第一视频片段的推荐标签,其中,第一视频片段为该视频的任意一个视频片段,与第一视频片段相邻的视频片段的标签包括与第一视频片段相邻的视频片段的推荐标签和/或备选标签。
其中,对步骤S407参见上文对步骤S104的描述。
在步骤S408中,根据各个视频片段的推荐标签,确定该视频的标签。
其中,对步骤S408参见上文对步骤S105的描述。
图5示出根据本公开一实施例的视频的标签确定方法的一示例性的流程图。如图5所示,该方法可以包括步骤S501至步骤S511。
在步骤S501中,获取第一训练样本集,第一训练样本集包括多个图像样本。
其中,对步骤S501参见上文对步骤S301的描述。
在步骤S502中,对各个图像样本进行图像处理,得到各个图像样本对应的变形样本。
其中,对步骤S502参见上文对步骤S302的描述。
在步骤S503中,根据各个图像样本和各个变形样本训练得到特征提取模型,特征提取模型提取的特征具备亮度不变性、旋转不变性和尺度不变性。
其中,对步骤S503参见上文对步骤S303的描述。
在步骤S504中,获取第二训练样本集,第二训练样本集包括多个视频样本以及各个视频样本的标签。
其中,对步骤S504参见上文对步骤S401的描述。
在步骤S505中,采用特征提取模型提取各个视频样本的特征。
其中,对步骤S505参见上文对步骤S402的描述。
在步骤S506中,根据各个视频样本的特征和各个视频样本的标签,训练得到标签提取模型。
其中,对步骤S506参见上文对步骤S403的描述。
在步骤S507中,将视频划分为多个视频片段。
其中,对步骤S507参见上文对步骤S101的描述。
在步骤S508中,将各个视频片段分别输入特征提取模型,得到各个视频片段的特征。
其中,对步骤S508参见上文对步骤S102的描述。
在步骤S509中,将各个视频片段的特征分别输入标签提取模型,得到各个视频片段的备选标签以及各个备选标签的置信度。
其中,对步骤S509参见上文对步骤S103的描述。
在步骤S510中,对于第一视频片段,根据第一视频片段的各个备选标签的置信度,和/或与第一视频片段相邻的视频片段的标签,确定第一视频片段的推荐标签,其中,第一视频片段为该视频的任意一个视频片段,与第一视频片段相邻的视频片段的标签包括与第一视频片段相邻的视频片段的推荐标签和/或备选标签。
其中,对步骤S510参见上文对步骤S104的描述。
在步骤S511中,根据各个视频片段的推荐标签,确定该视频的标签。
其中,对步骤S511参见上文对步骤S105的描述。
实施例2
图6示出根据本公开一实施例的视频的标签确定装置的框图。如图6所示,该装置包括:划分模块601,用于将视频划分为多个视频片段;第一提取模块602,用于将各个视频片段分别输入特征提取模型,得到各个视频片段的特征;第二提取模块603,用于将各个视频片段的特征分别输入标签提取模型,得到各个视频片段的备选标签以及各个备选标签的置信度;第一确定模块604,用于对于第一视频片段,根据所述第一视频片段的各个备选标签的置信度,和/或与所述第一视频片段相邻的视频片段的标签,确定所述第一视频片段的推荐标签,其中,所述第一视频片段为所述视频的任意一个视频片段,与所述第一视频片段相邻的视频片段的标签包括与所述第一视频片段相邻的视频片段的推荐标签和/或备选标签;第二确定模块605,用于根据各个视频片段的推荐标签,确定所述视频的标签。
图7示出根据本公开一实施例的视频的标签确定装置的一示例性的框图。如图7所示:
在一种可能的实现方式中,所述第一确定模块604包括:第一确定子模块6041,用于在所述第一视频片段的第一备选标签的置信度满足第一条件的情况下,将所述第一备选标签确定为所述第一视频片段的推荐标签,其中,所述第一备选标签为所述第一视频片段的任意一个备选标签。
在一种可能的实现方式中,所述第一条件为:所述第一备选标签的置信度大于第一阈值;或者,所述第一备选标签为所述第一视频片段的各个备选标签中置信度最大的备选标签,且所述第一备选标签的置信度与第二备选标签的置信度的差值大于第二阈值,其中,所述第二备选标签为所述第一视频片段的各个备选标签中置信度仅小于所述第一备选标签的备选标签。
在一种可能的实现方式中,所述第一确定模块604包括:第二确定子模块6042,用于在所述第一视频片段不为所述视频的首个视频片段,所述第一视频片段的第三备选标签与第二视频片段的推荐标签相同,且所述第三备选标签的置信度满足第二条件的情况下,将所述第三备选标签确定为所述第一视频片段的推荐标签,其中,所述第三备选标签为所述第一视频片段的任意一个备选标签,所述第二视频片段为所述第一视频片段的上一个视频片段。
在一种可能的实现方式中,所述第二条件为:所述第三备选标签的置信度大于第三阈值;或者,所述第三备选标签不为所述第一视频片段的各个备选标签中置信度最大的备选标签,且所述第一视频片段的各个备选标签中置信度最大的备选标签与所述第三备选标签的置信度之差小于第四阈值。
在一种可能的实现方式中,所述第二确定模块605包括:统计子模块6051,用于统计各个推荐标签对应的视频片段个数;第三确定子模块6052,用于将对应的视频片段个数最多的推荐标签确定为所述视频的标签。
在一种可能的实现方式中,所述装置还包括:第一获取模块606,用于获取第一训练样本集,所述第一训练样本集包括多个图像样本;图像处理模块607,用于对各个图像样本进行图像处理,得到各个图像样本对应的变形样本;第一模型训练模块608,用于根据各个图像样本和各个变形样本训练得到所述特征提取模型,所述特征提取模型提取的特征具备亮度不变性、旋转不变性和尺度不变性。
在一种可能的实现方式中,图像处理包括以下至少一种方式:增加噪声、伽马变换、方向变换、尺寸变换和镜像变换。
在一种可能的实现方式中,所述装置还包括:第二获取模块609,用于获取第二训练样本集,所述第二训练样本集包括多个视频样本以及各个视频样本的标签;第三提取模块610,用于采用特征提取模型提取各个视频样本的特征;第二模型训练模块611,用于根据各个视频样本的特征和各个视频样本的标签,训练得到所述标签提取模型。
本实施例能够在保证确定视频片段及视频的标签的效率的前提下,提高确定视频片段及视频的标签的准确性。
实施例3
图8是根据一示例性实施例示出的一种用于视频的标签确定的装置1900的框图。例如,装置1900可以被提供为一服务器。参照图8,装置1900包括处理组件1922,其进一步包括一个或多个处理器,以及由存储器1932所代表的存储器资源,用于存储可由处理组件1922的执行的指令,例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件1922被配置为执行指令,以执行上述方法。
装置1900还可以包括一个电源组件1926被配置为执行装置1900的电源管理,一个有线或无线网络接口1950被配置为将装置1900连接到网络,和一个输入输出(I/O)接口1958。装置1900可以操作基于存储在存储器1932的操作系统,例如Windows ServerTM,MacOS XTM,UnixTM,LinuxTM,FreeBSDTM或类似。
在示例性实施例中,还提供了一种包括指令的非易失性计算机可读存储介质,例如包括指令的存储器1932,上述指令可由装置1900的处理组件1922执行以完成上述方法。
本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。