CN111432141A - 一种混剪视频确定方法、装置、设备及存储介质 - Google Patents

一种混剪视频确定方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN111432141A
CN111432141A CN202010245223.XA CN202010245223A CN111432141A CN 111432141 A CN111432141 A CN 111432141A CN 202010245223 A CN202010245223 A CN 202010245223A CN 111432141 A CN111432141 A CN 111432141A
Authority
CN
China
Prior art keywords
video
determining
audio
feature
clip
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010245223.XA
Other languages
English (en)
Other versions
CN111432141B (zh
Inventor
杨旭静
靳潇杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing ByteDance Network Technology Co Ltd
Original Assignee
Beijing ByteDance Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing ByteDance Network Technology Co Ltd filed Critical Beijing ByteDance Network Technology Co Ltd
Priority to CN202010245223.XA priority Critical patent/CN111432141B/zh
Publication of CN111432141A publication Critical patent/CN111432141A/zh
Application granted granted Critical
Publication of CN111432141B publication Critical patent/CN111432141B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Television Signal Processing For Recording (AREA)

Abstract

本公开实施例公开了一种混剪视频确定方法、装置、设备及存储介质。其中,该方法包括:根据预设背景音频,依序确定各音频片段分别对应的第一视频片段集合;音频片段为根据音频关键点,将预设背景音频分割后得到的音频片段;基于第一视频特征,确定各第一视频片段集合分别对应的第一视频特征表征数据集合,其中,第一视频特征包括至少两种视频特征;根据各第一视频特征表征数据集合,确定用于混剪的各第一视频片段,其中,每相邻两个第一视频片段分别属于相邻两个音频片段对应的第一视频片段集合;利用视频拼接算法,将各相邻的第一视频片段进行顺次拼接,得到目标混剪视频,本公开实施例的技术方案提高了混剪视频的连贯性以及用户的视觉体验。

Description

一种混剪视频确定方法、装置、设备及存储介质
技术领域
本公开实施例涉及视频数据处理技术领域,尤其涉及一种混剪视频确定方法、装置、设备及存储介质。
背景技术
将多个视频混剪成单个视频并配合上流行音乐进行传播是目前短视频应用常见的场景。
视频包含丰富的视频特征信息,其在视频混剪中有着非常重要的作用。现有的视频混剪方法通常基于单一视频特征信息。以视频特征信息为色彩丰富度为例,该类视频混剪方法利用背景音乐变化点作为视频切换点,基于视频色彩丰富度确定当前片段下的最优解,最终得到混剪视频。利用该方法得到的混剪视频通常连贯性较差,进而导致用户的视觉体验较差。
发明内容
本公开实施例提供一种混剪视频确定方法、装置、设备及存储介质,提高了混剪视频的连贯性以及用户的视觉体验。
第一方面,本公开实施例提供了一种混剪视频确定方法,所述方法包括:
根据预设背景音频,依序确定各音频片段分别对应的第一视频片段集合;其中,音频片段为根据音频关键点,将所述预设背景音频分割后得到的音频片段;
基于第一视频特征,确定各第一视频片段集合分别对应的第一视频特征表征数据集合,其中,第一视频特征包括至少两种视频特征;
根据各所述第一视频特征表征数据集合,确定用于混剪的各第一视频片段,其中,每相邻两个第一视频片段分别属于相邻两个音频片段对应的第一视频片段集合;
利用视频拼接算法,将各相邻的第一视频片段进行顺次拼接,得到目标混剪视频。
第二方面,本公开实施例还提供了一种混剪视频确定装置,所述装置包括:
信息确定模块,用于根据预设背景音频,依序确定各音频片段分别对应的第一视频片段集合;其中,音频片段为根据音频关键点,将所述预设背景音频分割后得到的音频片段;
第一视频特征表征数据集合确定模块,用于基于第一视频特征,确定各第一视频片段集合分别对应的第一视频特征表征数据集合,其中,第一视频特征包括至少两种视频特征;
各第一视频片段确定模块,用于根据各所述第一视频特征表征数据集合,确定用于混剪的各第一视频片段,其中,每相邻两个第一视频片段分别属于相邻两个音频片段对应的第一视频片段集合;
目标混剪视频确定模块,用于利用视频拼接算法,将各相邻的第一视频片段进行顺次拼接,得到目标混剪视频。
第三方面,本公开实施例还提供了一种计算机设备,所述计算机设备包括:
一个或多个处理装置;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理装置执行,使得所述一个或多个处理装置实现如本公开任一实施例所述的混剪视频确定方法。
第四方面,本公开实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现如本公开任一实施例所述的混剪视频确定方法。
本公开实施例通过根据预设背景音频,依序确定各音频片段分别对应的第一视频片段集合;音频片段为根据音频关键点,将预设背景音频分割后得到的音频片段;基于第一视频特征,确定各第一视频片段集合分别对应的第一视频特征表征数据集合,其中,第一视频特征包括至少两种视频特征;根据各第一视频特征表征数据集合,确定用于混剪的各第一视频片段,其中,每相邻两个第一视频片段分别属于相邻两个音频片段对应的第一视频片段集合;利用视频拼接算法,将各相邻的第一视频片段进行顺次拼接,得到目标混剪视频,克服了由于使用单一视频特征信息进行视频混剪,导致的混剪视频连贯性差以及用户视觉体验差的不足,提高了混剪视频的连贯性以及用户的视觉体验。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。
图1是本公开实施例一提供的一种混剪视频确定方法的流程图;
图2a是本公开实施例二提供的一种混剪视频确定方法的流程图
图2b是本公开实施例二提供的另一种混剪视频确定方法的流程图;
图3是本公开实施例三提供的一种混剪视频确定装置的结构示意图;
图4是本公开实施例四提供的一种计算机设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
实施例一
图1为本公开实施例一提供的一种音频关键点确定方法的流程图。本实施例可适用于需要对视频进行混剪的情况,该方法可以由混剪视频确定装置来执行,该装置可以采用软件和/或硬件的方式实现,该装置可以配置于计算机设备中。如图1所示,该方法可以包括如下步骤:
S110、根据预设背景音频,依序确定各音频片段分别对应的第一视频片段集合;其中,音频片段为根据音频关键点,将预设背景音频分割后得到的音频片段。
优选的,预设背景音频可以是纯音乐背景音频,也可以是包括台词和音乐的背景音频。音频关键点可以用于从预设背景音频中提取出各音频片段,同时音频关键点也可以与混剪视频中各视频片段的转场相对应,即在混剪视频中,每出现一个音频关键点,优选可以对应一个视频片段的切换。音频关键点可以是预设背景音频的特征点,优选的,特征点可以是鼓点和/或节奏点。
优选的,在确定音频关键点之后,可以将两个音频关键点之间的音频作为一个音频片段,可以理解的是,预设背景音频中起始点到第一个音频关键点之间的音频也可以作为一个音频片段,最后一个音频关键点到预设背景音频中终止点之间的音频也可以作为一个音频片段。
在根据音频关键点确定各音频片段之后,优选可以为每个音频片段匹配相应时长相同的视频片段。优选的,可以确定每个音频片段对应的第一视频片段集合,即每个音频片段都可以对应一个第一视频片段集合,每个第一视频片段集合中均可以包括至少一个第一视频片段,且每个第一视频片段的时长均与相应的音频片段时长相同。
示例性的,预设背景音频时长为10s,音频关键点为2个,分别位于预设背景音频中的2s和6s处,则根据音频关键点的数目和关键点的位置可以确定预设背景音频中的音频片段包括3个,分别是0s-2s的第一音频片段,其时长为2s、2s-6s的第二音频片段,其时长为4s以及6s-10s的第三音频片段,其时长为4s。根据第一音频片段、第二音频片段和第三音频片段在预设背景音频中的先后顺序,确定与上述三个音频片段相对应的三个第一视频片段集合,与第一音频片段对应的第一视频片段集合中包括2个第一视频片段,且2个第一视频片段的时长均为2s,与第二音频片段对应的第一视频片段集合中包括3个第一视频片段,且3个第一视频片段的时长均为4s,与第三音频片段对应的第一视频片段集合中包括2个第一视频片段,且2个第一视频片段的时长均为4s。
S120、基于第一视频特征,确定各第一视频片段集合分别对应的第一视频特征表征数据集合,其中,第一视频特征包括至少两种视频特征。
优选的,视频特征可以包括美学特征(主要是视觉体验)、色彩特征(R、G和B三颜色通道)和视频片段中物体的运动速度特征中的至少一个。本实施例中,为了保证混剪视频的质量,优选的,第一视频特征可以包括视频的美学特征、色彩特征和运动速度中的至少两种视频特征。
第一视频特征表征数据优选可以用于表征第一视频特征在第一视频片段中的展现程度,已知第一视频特征,可以确定第一视频片段对应的第一视频特征表征数据,一个第一视频片段对应一个第一视频特征表征数据。示例性的,若第一视频特征包括美学特征和色彩特征,则第一视频特征表征数据用于表征第一视频片段在感官上美的程度和色彩鲜艳程度;若第一视频特征包括色彩特征和运动速度特征,则第一视频特征表征数据用于表征第一视频片段的色彩鲜艳程度以及运动速度的快慢程度;若第一视频特征包括美学特征、色彩特征和运动速度特征,则第一视频特征表征数据用于表征第一视频片段在感官上美的程度、色彩鲜艳程度以及运动速度的快慢程度。
优选的,由于第一视频特征包括至少两种视频特征,每种特征对应的第一视频特征表征数据的量纲可能不同,例如,色彩特征表征数据的量纲可以是颜色通道值,其可以是R、G和B三个颜色通道的加和平均值或者三颜色通道的加和,而运动速度对应的量纲则可以是每秒发生的位置移动距离。为了对第一视频特征进行统一评估,优选的,第一视频特征表征数据可以设置为分值,即优选可以将每个视频特征对应的特征数据归一化为相应的分值,以将每个视频特征放在同一量纲下进行评估。
示例性的,各第一视频片段集合分别为与第一音频片段对应的第一视频片段集合,其包括2个时长均为2s的第一视频片段、与第二音频片段对应的第一视频片段集合,且包括3个时长均为4s的第一视频片段以及与第三音频片段对应的第一视频片段集合,且包括2个时长均为4s的第一视频片段。则与上述各第一视频片段集合分别对应的第一视频特征表征数据集合依次为包括2个第一视频特征分值的第一视频特征表征数据集合、包括3个第一视频特征分值的第一视频特征表征数据集合以及包括2个第一视频特征分值的第一视频特征表征数据集合。
S130、根据各第一视频特征表征数据集合,确定用于混剪的各第一视频片段,其中,每相邻两个第一视频片段分别属于相邻两个音频片段对应的第一视频片段集合。
对于每个第一视频特征表征数据集合,都可以根据第一视频特征表征数据确定规则,从中选出一个优选第一视频特征表征数据,并确定优选第一视频特征表征数据对应的第一视频片段,该第一视频片段即为最终用于混剪的第一视频片段。示例性的,第一视频特征表征数据确定规则可以是在第一视频特征表征数据集合中,选择数值最大的第一视频特征表征数据作为优选第一视频特征表征数据,也可以是在第一视频特征表征数据集合中,选择数值最小的第一视频特征表征数据作为优选第一视频特征表征数据,还可以是在第一视频特征表征数据集合中,选择数值居中的第一视频特征表征数据作为优选第一视频特征表征数据。上述仅为对第一视频特征表征数据确定规则的示例性描述,并不构成限定作用,可以理解的是,第一视频特征表征数据确定规则可以根据实际需要进行设定,在此不做特殊限定。
示例性的,各第一视频片段集合分别对应的第一视频特征表征数据集合依次为包括2个第一视频特征分值的第一视频特征表征数据集合,其中,2个第一视频特征分值分别是55和90、包括3个第一视频特征分值的第一视频特征表征数据集合,其中,3个第一视频特征分值分别是60、38和87,以及包括2个第一视频特征分值的第一视频特征表征数据集合,其中,2个第一视频特征分值分别是49和92。各第一视频片段集合分别为与第一音频片段对应的第一视频片段集合,其包括2个时长均为2s的第一视频片段、与第二音频片段对应的第一视频片段集合,且包括3个时长均为4s的第一视频片段以及与第三音频片段对应的第一视频片段集合,且包括2个时长均为4s的第一视频片段。第一视频特征表征数据确定规则为在第一视频特征表征数据集合中,选择数值最小的第一视频特征表征数据作为优选第一视频特征表征数据,则在各第一视频片段集合中,优选第一视频特征分值分别为55、38和49(依音频片段的先后顺序排列),相应的,其对应的第一视频片段分别为分值55对应的时长为2s的第一视频片段、分值38对应的时长为4s的第一视频片段以及分值49对应的时长为4s的第一视频片段(以音频片段的先后顺序排列)。
S140、利用视频拼接算法,将各相邻的第一视频片段进行顺次拼接,得到目标混剪视频。
优选的,视频拼接算法优选可以是基于图像特征的视频拼接算法。
示例性的,在得到用于混剪的各第一视频片段(分值55对应的时长为2s的第一视频片段、分值38对应的时长为4s的第一视频片段以及分值49对应的时长为4s的第一视频片段)之后,优选的,可以利用视频拼接算法,将各相邻的第一视频片段进行顺次拼接,得到的目标混剪视频一次包括分值55对应的时长为2s的第一视频片段、分值38对应的时长为4s的第一视频片段和分值49对应的时长为4s的第一视频片段。
本公开实施例提供的一种混剪视频确定方法,通过根据预设背景音频,依序确定各音频片段分别对应的第一视频片段集合;音频片段为根据音频关键点,将预设背景音频分割后得到的音频片段;基于第一视频特征,确定各第一视频片段集合分别对应的第一视频特征表征数据集合,其中,第一视频特征包括至少两种视频特征;根据各第一视频特征表征数据集合,确定用于混剪的各第一视频片段,其中,每相邻两个第一视频片段分别属于相邻两个音频片段对应的第一视频片段集合;利用视频拼接算法,将各相邻的第一视频片段进行顺次拼接,得到目标混剪视频,克服了由于使用单一视频特征信息进行视频混剪,导致的混剪视频连贯性差以及用户视觉体验差的不足,提高了混剪视频的连贯性以及用户的视觉体验。
在上述各实施例的基础上,进一步的,在确定与音频片段对应的第一视频片段集合之前,还包括:
分别对每个音频片段对应的原始视频执行如下操作:
根据音频片段的时长,对原始视频进行视频片段提取,得到第一视频片段集合,其中,第一视频片段集合中的每个第一视频片段的时长均等于音频片段时长。
本实施例的应用场景可以是预先为一个音频片段分配一个原始视频,该原始视频的时长可能并不等于音频片段时长,基于此,优选的,可以基于音频片段的时长,对原始视频进行视频片段提取,以得到时长与音频片段时长相等的各第一视频片段。优选的,提取方式可以是将音频片段时长作为时间窗口,从原始视频的起始点开始,每隔预设时间间隔向后移动一次时间窗口,每个时间窗口下的视频片段都可以作为第一视频片段。其中,预设时间间隔可以根据实际需要进行设定,在此不做特殊限定,例如可以是1s或2s等。在此需要说明的是,第一视频片段集合中的第一视频片段的个数也可以根据实际情况进行设定,在此不做特殊限定。
优选的,第一个音频片段的时长为2s,其对应的原始视频的时长为3s,第2个音频片段的时长为4s,其对应的原始视频的时长为6s以及第三个音频片段的时长为4s,其对应的原始视频的时长为5s,预设时间间隔为1s。则根据音频片段的时长,对各原始视频进行视频片段提取,得到各第一视频片段集合依次为:包括2个时长为2s的第一视频片段的第一视频片段集合、包括3个时长为4s的第一视频片段的第一视频片段集合以及包括2个时长为4s的第一视频片段的第一视频片段集合。
在上述各实施例的基础上,进一步的,第一视频特征包括美学特征、色彩特征和运动速度特征,相应的,基于第一视频特征,确定第一视频片段集合对应的第一视频特征表征数据集合,包括:
分别对第一视频片段集合中的每个第一视频片段执行如下操作:
将第一视频片段输入预先训练的美学特征深度学习网络,输出第一视频片段的美学特征表征数据。
其中,深度学习网络优选可以是深度卷积神经网络,也可以是循环卷积神经网络。
优选的,在将第一视频片段输入美学特征深度学习网络中,输出第一视频片段的美学特征表征数据之前,可以对美学特征深度学习网络进行预先训练。
具体的:预先获取第一视频片段样本集以及第一视频片段样本集对应的美学特征表征数据;基于第一视频片段样本集以及第一视频片段样本集对应的美学特征表征数据生成训练样本对,使用所述训练样本对对所述预先构建的深度学习网络进行训练,得到训练好的美学特征深度学习网络。其中,美学特征表征数据优选可以通过人工标注获得。优选的,美学特征表征数据可以是美学特征分值,其范围可以为0-100,也可以为0-1。示例性的,美学特征分值可以是78。
将每个第一图像中的每个像素点对应的色彩值归一化为色彩特征表征子数据,其中,第一图像为第一视频片段中的图像。
优选的,每个像素点对应的色彩值可以是R、G和B三个通道数值加和之后的数值,也可以是三个通道数值的加和平均值。
示例性的,将每个第一图像中的每个像素点对应的色彩值归一化为色彩特征表征子数据的方法可以是每个像素点对应的三通道的色彩加和平均值/255×100(该方法的分值范围为0-100,如果分值范围为0-1,则为每个像素点对应的三通道的色彩加和平均值/255×1),还可以是每个像素点对应的三通道的色彩加和后的值/255×3×100(该方法的分值范围为0-100,如果分值范围为0-1,则为每个像素点对应的三通道的色彩加和后的值/255×3×1)。
基于色彩特征表征子数据,利用色彩特征表征数据确定规则,确定第一视频片段的色彩特征表征数据。
优选的,色彩特征表征数据确定规则可以包括:计算第一视频片段中相应像素点的色彩特征表征子数据的第一加和平均值;
计算第一加和平均值的第二加和平均值,并将第二加和平均值作为第一视频片段的色彩特征表征数据。
在此需要说明的是,加和平均还可以替换为加权平均或者加权后再计算加和平均等。
示例性的,一个视频片段中包括3帧图片,每帧图片的像素点为2×2个,以从左到右,从上到下的顺序依次描述3帧图片中各像素点对应的色彩分值(色彩分值范围为0-100)分别为56、77、33、89、62、80、44、90、33、21、78和51,则第一加和平均值分别为(56+62+33)/3=50.33、(77+80+21)/3=59.33、(33+44+78)/3=51.67和(89+90+51)/3=76.67,第二加和平均值为((56+62+33)/3+(77+80+21)/3+(33+44+78)/3+(89+90+51)/3)/4=59.5。
利用光流算法确定相邻两个第一图像之间的运动速度差值,并将运动速度差值归一化为运动速度表征子数据。
示例性的,一个视频片段中包括3帧图片,利用光流算法可以算出每个图像对应的运动速度,并计算相邻两个图像之间的运动速度差值,利用运动速度差值的最大值对运动速度差值进行归一化。
示例性的,运动速度差值分别为36和72,则将每个运动速度差值归一化为运动速度分值,得到的运动速度分值分别是36/72×100(该方法的分值范围为0-100,如果分值范围为0-1,则运动速度分值为36/72×1)=50和72/72×100=100。
基于运动速度表征子数据,利用运动速度表征数据确定规则,确定第一视频片段的运动速度表征数据;
优选的,运动速度表征数据确定规则可以包括:计算运动速度表征子数据的第三加和平均值,并将第三加和平均值作为第一视频片段的运动速度特征表征数据。
在此需要说明的是,加和平均还可以替换为加权平均或者加权后再计算加和平均等。
示例性的,运动速度分值分别是50和100,通过计算二者的加和平均值,得到运动速度分值为(50+100)/2=75。
利用美学特征表征数据、色彩特征表征数据以及运动速度特征表征数据,确定第一视频片段的第一视频特征表征数据;
优选的,可以基于美学特征分值、色彩特征分值以及运动速度特征分值,并结合各自的权重值,确定第一视频片段的第一视频特征分值。
示例性的,美学特征分值为78、美学特征对应的权重为0.3、色彩特征分值为59.5、色彩特征对应的权重为0.2、运动速度特征分值为75以及运动速度特征对应的权重为0.5,则第一视频片段的第一视频特征分值=78×0.3+59.5×0.2+75×0.5=72.8。
将每个第一视频特征表征数据作为第一视频特征表征数据集合。
根据上述确定美学特征分值、色彩特征分值、运动速度特征分值以及第一视频特征分值的方法,可以确定每个第一视频片段对应的第一视频特征分值,并将每个第一视频特征分值作为第一视频特征分值集合。
示例性的,第一视频片段集合中包括3个第一视频片段,每个第一视频片段对应的第一视频特征分值分别是72.8、56和63,则第一视频片段集合对应的第一视频特征分数集合为{72.8,56,63}。
在上述各实施例的基础上,进一步的,根据第一视频特征表征数据集合,确定最终用于混剪的各第一视频片段,包括:
在每个第一视频特征表征数据集合中,确定数值最大的第一视频特征表征数据对应的最大第一视频片段,并将每个最大第一视频片段作为用于混剪的各第一视频片段。
示例性的,各第一视频片段集合分别对应的第一视频特征表征数据集合依次为包括2个第一视频特征分值的第一视频特征表征数据集合,其中,2个第一视频特征分值分别是55和90、包括3个第一视频特征分值的第一视频特征表征数据集合,其中,3个第一视频特征分值分别是60、38和87,以及包括2个第一视频特征分值的第一视频特征表征数据集合,其中,2个第一视频特征分值分别是49和92。各第一视频片段集合分别为与第一音频片段对应的第一视频片段集合,其包括2个时长均为2s的第一视频片段、与第二音频片段对应的第一视频片段集合,且包括3个时长均为4s的第一视频片段以及与第三音频片段对应的第一视频片段集合,且包括2个时长均为4s的第一视频片段。在各第一视频片段集合中,最大的第一视频特征分值分别为90、87和92(依音频片段的先后顺序排列),相应的,最大第一视频片段分别为分值90对应的时长为2s的第一视频片段、分值87对应的时长为4s的第一视频片段以及分值92对应的时长为4s的第一视频片段(以音频片段的先后顺序排列)。
实施例二
图2a为本公开实施例二提供的一种音频关键点确定方法的流程图。本实施例可以与上述一个或者多个实施例中各个可选方案结合,在本实施例中,根据所述第一视频特征表征数据集合,确定最终用于混剪的各第一视频片段,包括:
针对各所述第一视频特征表征数据集合,在相应的第一视频片段集合中,确定候选第一视频片段集合;
基于第二视频特征,确定候选第一视频片段对所对应的第二视频特征表征数据,其中,所述候选第一视频片段对中的两个候选视频片段,分别属于相邻两个音频片段对应的两个候选第一视频片段集合,第二视频特征包括运动方向;
根据所述第二视频特征表征数据,确定用于混剪的各第一视频片段。
如图2a所示,该方法可以包括如下步骤:
S210、根据预设背景音频,依序确定各音频片段分别对应的第一视频片段集合;其中,音频片段为根据音频关键点,将预设背景音频分割后得到的音频片段。
S220、基于第一视频特征,确定各第一视频片段集合分别对应的第一视频特征表征数据集合,其中,第一视频特征包括至少两种视频特征。
S230、针对各第一视频特征表征数据集合,在相应的第一视频片段集合中,确定候选第一视频片段集合。
优选的,针对各第一视频特征表征数据集合,在相应的第一视频片段集合中,确定候选第一视频片段集合,可以包括:
对各第一视频特征表征数据集合执行如下操作:
将所述第一视频特征表征数据集合中的第一视频特征表征数据依据数值大小进行排序;
确定前预设数目个第一视频特征表征数据对应的各第一视频片段,并将各第一视频片段作为候选第一视频片段集合。
其中,将所述第一视频特征表征数据集合中的第一视频特征表征数据依据数值大小进行排序优选可以包括:
将第一视频特征表征数据集合中的第一视频特征表征数据进行升序排列。
示例性的,第一视频特征表征数据集合中的表征数据包括50、73、21、38、96、28、77和85,预设数目为2,则对第一视频特征表征数据集合中的表征数据进行升序排列,分别为21、28、38、50、73、77、85和96,确定前2个表征数据为21和28,进而确定表征数据21和28对应的第一视频片段a和b,并将第一视频片段a和b作为候选第一视频片段集合{a,b}。根据上述同样的方法,可以确定其他第一视频片段集合中的候选第一视频片段集合。示例性的,其他候选第一视频片段集合{c、d和e}以及{f,g}。
或,将所述第一视频特征表征数据集合中的第一视频特征表征数据依据数值大小进行排序优选还可以包括:
将第一视频特征表征数据集合中的第一视频特征表征数据进行降序排列。
示例性的,第一视频特征表征数据集合中的表征数据包括50、73、21、38、96、28、77和85,预设数目为2,则对第一视频特征表征数据集合中的表征数据进行升序排列,分别为96、85、77、73、50、38、28和21,确定前2个表征数据为96和85,进而确定表征数据96和85对应的第一视频片段a和b,并将第一视频片段a和b作为候选第一视频片段集合{a,b}。根据上述同样的方法,可以确定其他第一视频片段集合中的候选第一视频片段集合。示例性的,其他候选第一视频片段集合{c、d和e}以及{f,g}。
S240、基于第二视频特征,确定候选第一视频片段对所对应的第二视频特征表征数据,其中,候选第一视频片段对中的两个候选视频片段,分别属于相邻两个音频片段对应的两个候选第一视频片段集合,第二视频特征包括运动方向。
优选的,第二视频特征表征数据可以为第二视频特征分值。
示例性的,各候选第一视频片段集合分别为{a,b}、{c、d和e}和{f,g}(以音频片段的先后顺序进行排列),其中,对于候选第一视频片段集合{a,b}和{c、d和e},候选第一视频片段对包括(a,c)、(a,d)、(a,e)、(b,c)、(b,d)和(b,e),其对应的运动方向分值可以是80、73、55、64、95和98。对于候选第一视频片段集合{c、d和e}和{f,g},候选第一视频片段对包括(c,f)、(c,g)、(d,f)、(d,g)、(e,f)和(e,g),其对应的运动方向分值可以是56、37、62、78、98、86和49。
优选的,基于第二视频特征,确定候选第一视频片段对所对应的第二视频特征表征数据,包括:
对各候选第一视频片段对执行如下操作:
利用光流算法确定相邻两个第二图像之间的运动方向偏差,并将运动方向偏差归一化为运动方向表征数据,运动方向表征数据与候选第一视频片段对相对应,其中,在相邻两个第二图像中,前一个第二图像为在候选第一视频片段对中,前一个候选第一视频片段的最后一帧图像,后一个第二图像为在候选第一视频片段对中,后一个候选第一视频片段的第一帧图像。
其中,第二图像为候选第一视频片段中的图像,优选的,可以利用光流算法确定相应第二图像中物体的运动方向,并根据运动方向确定相邻两个第二图像之间的运动方向偏差,并利用运动方向偏差/180°×100(该方法的分值范围为0-100,如果分值范围为0-1,则利用运动方向偏差/180°×1),将运动方向偏差归一化为运动方向分值。
示例性的,候选第一视频片段对为(a,c),其对应的运动方向偏差为144°,则利用144°/180°×100计算得到该候选第一视频片段对的运动方向分值为80。根据上述同样的方法,可以确定其他候选第一视频片段对对应的运动方向分值。示例性的,其他候选第一视频片段对(a,d)、(a,e)、(b,c)、(b,d)、(b,e)、(c,f)、(c,g)、(d,f)、(d,g)、(e,f)和(e,g),其对应的运动方向分值可以是56、37、62、78、98、86、49、73、55、64、95和98。
S250、根据第二视频特征表征数据,确定用于混剪的各第一视频片段。
优选的,根据第二视频特征表征数据,确定用于混剪的各第一视频片段,包括:
对各相邻两个音频片段对应的运动方向表征数据执行如下操作:
遍历相邻两个音频片段对应的运动方向表征数据,确定目标运动方向表征数据对应的候选第一视频片段对;
根据各候选第一视频片段对,确定用于混剪的各第一视频片段。
其中,目标运动方向表征数据优选可以是最大运动方向表征数据。
示例性的,各候选第一视频片段集合分别为{a,b}、{c、d和e}和{f,g}(以音频片段的先后顺序进行排列),其中,对于候选第一视频片段集合{a,b}和{c、d和e},候选第一视频片段对(a,c)、(a,d)、(a,e)、(b,c)、(b,d)和(b,e)分别对应的运动方向分值为80、73、55、64、95和98,根据运动方向分值以及其对应的候选第一视频片段对,可以确定最大运动方向分数98对应的候选第一视频片段对为(b,e)。对于候选第一视频片段集合{c、d和e}和{f,g},候选第一视频片段对(c,f)、(c,g)、(d,f)、(d,g)、(e,f)和(e,g)分别对应的运动方向分值为56、37、62、78、98、86和49,根据运动方向分值以及其对应的候选第一视频片段对,可以确定最大运动方向分数98对应的候选第一视频片段对为(d,g)。
或,目标运动方向表征数据优选还可以是最小运动方向表征数据。
示例性的,各候选第一视频片段集合分别为{a,b}、{c、d和e}和{f,g}(以音频片段的先后顺序进行排列),其中,对于候选第一视频片段集合{a,b}和{c、d和e},候选第一视频片段对(a,c)、(a,d)、(a,e)、(b,c)、(b,d)和(b,e)分别对应的运动方向分值为80、73、55、64、95和98,根据运动方向分值以及其对应的候选第一视频片段对,可以确定最小运动方向分数55对应的候选第一视频片段对为(a,e)。对于候选第一视频片段集合{c、d和e}和{f,g},候选第一视频片段对(c,f)、(c,g)、(d,f)、(d,g)、(e,f)和(e,g)分别对应的运动方向分值为56、37、62、78、98、86和49,根据运动方向分值以及其对应的候选第一视频片段对,可以确定最小运动方向分数37对应的候选第一视频片段对为(c,g)。
S260、利用视频拼接算法,将各相邻的第一视频片段进行顺次拼接,得到目标混剪视频。
本公开实施例提供的一种混剪视频确定方法,通过根据预设背景音频,依序确定各音频片段分别对应的第一视频片段集合;音频片段为根据音频关键点,将预设背景音频分割后得到的音频片段;基于第一视频特征,确定各第一视频片段集合分别对应的第一视频特征表征数据集合,其中,第一视频特征包括至少两种视频特征;针对各第一视频特征表征数据集合,在相应的第一视频片段集合中,确定候选第一视频片段集合;基于第二视频特征,确定候选第一视频片段对所对应的第二视频特征表征数据,其中,候选第一视频片段对中的两个候选视频片段,分别属于相邻两个音频片段对应的两个候选第一视频片段集合,第二视频特征包括运动方向;根据第二视频特征表征数据,确定用于混剪的各第一视频片段;利用视频拼接算法,将各相邻的第一视频片段进行顺次拼接,得到目标混剪视频,在克服了由于使用单一视频特征信息进行视频混剪,导致的混剪视频连贯性差以及用户视觉体验差的不足,提高了混剪视频的连贯性以及用户的视觉体验的同时,通过考虑视频的运动方向特征,进一步提高了视频的连贯性以及用户的视觉体验。
图2b为本实施例二提供的另一种音频关键点确定方法的流程图,如图2b所示,根据预设背景视频以及其关键点,确定预设背景视频中的各音频片段。确定各音频片段对应的第一视频片段集合,针对每个第一视频片段集合,利用美学特征、色彩特征和运动速度特征确定第一视频片段集合中的每个第一视频片段对应的第一视频特征表征数据,最终得到每个第一视频片段集合对应的第一视频特征表征数据集合。并根据每个第一视频特征表征数据集合,第一视频片段集合中选出预设数目的候选第一视频片段(即候选第一视频片段集合),得到各音频片段对应的候选第一视频片段集合。利用运动方向特征对各相邻音频片段对应的候选第一视频片段集合进行处理,得到每个候选第一视频片段对所对应的第二视频特征表征数据,根据第二视频特征表征数据,在每个相邻音频片段对应的候选第一视频片段集合中确定一个候选第一视频片段对,根据各候选第一视频片段对,确定用于混剪的各第一视频片段,利用视频拼接方法,得到混剪视频。
实施例三
图3为本公开实施例三提供的一种混剪视频确定装置的结构示意图。本实施例可适用于需要对视频进行混剪的情况。该装置可以采用软件和/或硬件的方式实现,该装置可以配置于计算机设备中。如图3所示,该装置可以包括:
信息确定模块310,用于根据预设背景音频,依序确定各音频片段分别对应的第一视频片段集合;其中,音频片段为根据音频关键点,将预设背景音频分割后得到的音频片段;
第一视频特征表征数据集合确定模块320,用于基于第一视频特征,确定各第一视频片段集合分别对应的第一视频特征表征数据集合,其中,第一视频特征包括至少两种视频特征;
各第一视频片段确定模块330,用于根据各第一视频特征表征数据集合,确定用于混剪的各第一视频片段,其中,每相邻两个第一视频片段分别属于相邻两个音频片段对应的第一视频片段集合;
目标混剪视频确定模块340,用于利用视频拼接算法,将各相邻的第一视频片段进行顺次拼接,得到目标混剪视频。
本实施例通过利用信息确定模块根据预设背景音频,依序确定各音频片段分别对应的第一视频片段集合;其中,音频片段为根据音频关键点,将预设背景音频分割后得到的音频片段;利用第一视频特征表征数据集合确定模块基于第一视频特征,确定各第一视频片段集合分别对应的第一视频特征表征数据集合,其中,第一视频特征包括至少两种视频特征;利用各第一视频片段确定模块根据各第一视频特征表征数据集合,确定用于混剪的各第一视频片段,其中,每相邻两个第一视频片段分别属于相邻两个音频片段对应的第一视频片段集合;利用目标混剪视频确定模块利用视频拼接算法,将各相邻的第一视频片段进行顺次拼接,得到目标混剪视频,克服了由于使用单一视频特征信息进行视频混剪,导致的混剪视频连贯性差以及用户视觉体验差的不足,提高了混剪视频的连贯性以及用户的视觉体验。
在上述技术方案的基础上,可选的,混剪视频确定装置还可以包括第一视频片段集合获取模块,用于在确定与音频片段对应的第一视频片段集合之前,分别对每个音频片段对应的原始视频执行如下操作:
根据音频片段的时长,对原始视频进行视频片段提取,得到第一视频片段集合,其中,第一视频片段集合中的每个第一视频片段的时长均等于音频片段时长。
在上述技术方案的基础上,可选的,第一视频特征包括美学特征、色彩特征和运动速度特征。
在上述技术方案的基础上,可选的,第一视频特征表征数据集合确定模块120具体可以包括美学特征表征数据确定单元、色彩特征表征数据单元、运动速度表征数据单元、第一视频特征表征数据单元和第一视频特征表征数据集合确定单元,第一视频特征表征数据集合确定模块120具体可以分别对第一视频片段集合中的每个第一视频片段执行如下操作:
美学特征表征数据确定单元用于将第一视频片段输入预先训练的美学特征深度学习网络,输出第一视频片段的美学特征表征数据;
色彩特征表征数据单元,用于将每个第一图像中的每个像素点对应的色彩值归一化为色彩特征表征子数据,其中,第一图像为第一视频片段中的图像;
基于色彩特征表征子数据,利用色彩特征表征数据确定规则,确定第一视频片段的色彩特征表征数据;
运动速度表征数据单元,用于利用光流算法确定相邻两个第一图像之间的运动速度差值,并将运动速度差值归一化为运动速度表征子数据;
基于运动速度表征子数据,利用运动速度表征数据确定规则,确定第一视频片段的运动速度表征数据;
第一视频特征表征数据单元,用于利用美学特征表征数据、色彩特征表征数据以及运动速度特征表征数据,确定第一视频片段的第一视频特征表征数据;
第一视频特征表征数据集合确定单元,用于将每个第一视频特征表征数据作为第一视频特征表征数据集合。
在上述技术方案的基础上,可选的,各第一视频片段确定模块130具体可以包括:
候选第一视频片段集合确定单元,用于针对各第一视频特征表征数据集合,在相应的第一视频片段集合中,确定候选第一视频片段集合;
第二视频特征表征数据确定单元,用于基于第二视频特征,确定候选第一视频片段对所对应的第二视频特征表征数据,其中,候选第一视频片段对中的两个候选视频片段,分别属于相邻两个音频片段对应的两个候选第一视频片段集合,第二视频特征包括运动方向;
各第一视频片段第二确定单元,用于根据第二视频特征表征数据,确定用于混剪的各第一视频片段。
在上述技术方案的基础上,可选的,候选第一视频片段集合确定单元具体可以用于:
对各第一视频特征表征数据集合执行如下操作:
将第一视频特征表征数据集合中的第一视频特征表征数据进行降序排列;
确定前预设数目个第一视频特征表征数据对应的各第一视频片段,并将各第一视频片段作为候选第一视频片段集合。
在上述技术方案的基础上,可选的,第二视频特征表征数据确定单元具体可以用于:
对各候选第一视频片段对执行如下操作:
利用光流算法确定相邻两个第二图像之间的运动方向偏差,并将运动方向偏差归一化为运动方向表征数据,运动方向表征数据与候选第一视频片段对相对应,其中,在相邻两个第二图像中,前一个第二图像为在候选第一视频片段对中,前一个候选第一视频片段的最后一帧图像,后一个第二图像为在候选第一视频片段对中,后一个候选第一视频片段的第一帧图像。
在上述技术方案的基础上,可选的,各第一视频片段第二确定单元具体可以用于:
对各相邻两个音频片段对应的运动方向表征数据执行如下操作:
遍历相邻两个音频片段对应的运动方向表征数据,确定最大运动方向表征数据对应的候选第一视频片段对;
根据各候选第一视频片段对,确定用于混剪的各第一视频片段。
本公开实施例所提供的混剪视频确定装置可执行本公开实施例所提供的混剪视频确定方法,具备执行方法相应的功能模块和有益效果。
实施例四
下面参考图4,其示出了适于用来实现本公开实施例四的计算机设备400的结构示意图。本公开实施例中的计算机设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等。图4示出的计算机设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图4所示,计算机设备400可以包括处理装置(例如中央处理器、图形处理器等)401,其可以根据存储在只读存储器(ROM)402中的程序或者从存储装置406加载到随机访问存储器(RAM)403中的程序而执行各种适当的动作和处理。在RAM 403中,还存储有计算机设备400操作所需的各种程序和数据。处理装置401、ROM 402以及RAM 403通过总线544彼此相连。输入/输出(I/O)接口405也连接至总线404。
通常,以下装置可以连接至I/O接口405:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置406;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置407;包括例如磁带、硬盘等的存储装置406;以及通信装置409。通信装置409可以允许计算机设备400与其他设备进行无线或有线通信以交换数据。虽然图4示出了具有各种装置的计算机设备400,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置409从网络上被下载和安装,或者从存储装置406被安装,或者从ROM 402被安装。在该计算机程序被处理装置401执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述计算机设备中所包含的;也可以是单独存在,而未装配入该计算机设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该计算机设备执行时,使得该计算机设备:根据预设背景音频,依序确定各音频片段分别对应的第一视频片段集合;其中,音频片段为根据音频关键点,将预设背景音频分割后得到的音频片段;基于第一视频特征,确定各第一视频片段集合分别对应的第一视频特征表征数据集合,其中,第一视频特征包括至少两种视频特征;根据各第一视频特征表征数据集合,确定用于混剪的各第一视频片段,其中,每相邻两个第一视频片段分别属于相邻两个音频片段对应的第一视频片段集合;利用视频拼接算法,将各相邻的第一视频片段进行顺次拼接,得到目标混剪视频。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的方法、装置、计算机设备和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的模块、单元以及子单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,模块、单元或者子单元的名称在某种情况下并不构成对该模块、单元或者子单元本身的限定,例如,目标混剪视频确定模块还可以被描述为“利用视频拼接算法,将各相邻的第一视频片段进行顺次拼接,得到目标混剪视频的模块”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开的一个或多个实施例,示例一提供了一种混剪视频确定方法,包括:
根据预设背景音频,依序确定各音频片段分别对应的第一视频片段集合;其中,音频片段为根据音频关键点,将预设背景音频分割后得到的音频片段;
基于第一视频特征,确定各第一视频片段集合分别对应的第一视频特征表征数据集合,其中,第一视频特征包括至少两种视频特征;
根据各第一视频特征表征数据集合,确定用于混剪的各第一视频片段,其中,每相邻两个第一视频片段分别属于相邻两个音频片段对应的第一视频片段集合;
利用视频拼接算法,将各相邻的第一视频片段进行顺次拼接,得到目标混剪视频。
根据本公开的一个或多个实施例,示例二提供了一种混剪视频确定方法,在示例一的混剪视频确定方法的基础上,在确定与音频片段对应的第一视频片段集合之前,还包括:
分别对每个音频片段对应的原始视频执行如下操作:
根据音频片段的时长,对原始视频进行视频片段提取,得到第一视频片段集合,其中,第一视频片段集合中的每个第一视频片段的时长均等于音频片段时长。
根据本公开的一个或多个实施例,示例三提供了一种混剪视频确定方法,在示例一的混剪视频确定方法的基础上,第一视频特征包括美学特征、色彩特征和运动速度特征。
根据本公开的一个或多个实施例,示例四提供了一种混剪视频确定方法,在示例三的混剪视频确定方法的基础上,基于第一视频特征,确定第一视频片段集合对应的第一视频特征表征数据集合,包括:
分别对第一视频片段集合中的每个第一视频片段执行如下操作:
将第一视频片段输入预先训练的美学特征深度学习网络,输出第一视频片段的美学特征表征数据;
将每个第一图像中的每个像素点对应的色彩值归一化为色彩特征表征子数据,其中,第一图像为第一视频片段中的图像;
基于色彩特征表征子数据,利用色彩特征表征数据确定规则,确定第一视频片段的色彩特征表征数据;
利用光流算法确定相邻两个第一图像之间的运动速度差值,并将运动速度差值归一化为运动速度表征子数据;
基于运动速度表征子数据,利用运动速度表征数据确定规则,确定第一视频片段的运动速度表征数据;
利用美学特征表征数据、色彩特征表征数据以及运动速度特征表征数据,确定第一视频片段的第一视频特征表征数据;
将每个第一视频特征表征数据作为第一视频特征表征数据集合。
根据本公开的一个或多个实施例,示例五提供了一种混剪视频确定方法,在示例一的混剪视频确定方法的基础上,根据第一视频特征表征数据集合,确定最终用于混剪的各第一视频片段,包括:
针对各第一视频特征表征数据集合,在相应的第一视频片段集合中,确定候选第一视频片段集合;
基于第二视频特征,确定候选第一视频片段对所对应的第二视频特征表征数据,其中,候选第一视频片段对中的两个候选视频片段,分别属于相邻两个音频片段对应的两个候选第一视频片段集合,第二视频特征包括运动方向;
根据第二视频特征表征数据,确定用于混剪的各第一视频片段。
根据本公开的一个或多个实施例,示例六提供了一种混剪视频确定方法,在示例五的混剪视频确定方法的基础上,针对各第一视频特征表征数据集合,在相应的第一视频片段集合中,确定候选第一视频片段集合,包括:
对各第一视频特征表征数据集合执行如下操作:
将第一视频特征表征数据集合中的第一视频特征表征数据进行降序排列;
确定前预设数目个第一视频特征表征数据对应的各第一视频片段,并将各第一视频片段作为候选第一视频片段集合。
根据本公开的一个或多个实施例,示例七提供了一种混剪视频确定方法,在示例五的混剪视频确定方法的基础上,基于第二视频特征,确定候选第一视频片段对所对应的第二视频特征表征数据,包括:
对各候选第一视频片段对执行如下操作:
利用光流算法确定相邻两个第二图像之间的运动方向偏差,并将运动方向偏差归一化为运动方向表征数据,运动方向表征数据与候选第一视频片段对相对应,其中,在相邻两个第二图像中,前一个第二图像为在候选第一视频片段对中,前一个候选第一视频片段的最后一帧图像,后一个第二图像为在候选第一视频片段对中,后一个候选第一视频片段的第一帧图像。
根据本公开的一个或多个实施例,示例八提供了一种混剪视频确定方法,在示例五的混剪视频确定方法的基础上,根据第二视频特征表征数据,确定用于混剪的各第一视频片段,包括:
对各相邻两个音频片段对应的运动方向表征数据执行如下操作:
遍历相邻两个音频片段对应的运动方向表征数据,确定最大运动方向表征数据对应的候选第一视频片段对;
根据各候选第一视频片段对,确定用于混剪的各第一视频片段。
根据本公开的一个或多个实施例,示例九提供了一种混剪视频确定装置,包括:
信息确定模块,用于根据预设背景音频,依序确定各音频片段分别对应的第一视频片段集合;其中,音频片段为根据音频关键点,将预设背景音频分割后得到的音频片段;
第一视频特征表征数据集合确定模块,用于基于第一视频特征,确定各第一视频片段集合分别对应的第一视频特征表征数据集合,其中,第一视频特征包括至少两种视频特征;
各第一视频片段确定模块,用于根据各第一视频特征表征数据集合,确定用于混剪的各第一视频片段,其中,每相邻两个第一视频片段分别属于相邻两个音频片段对应的第一视频片段集合;
目标混剪视频确定模块,用于利用视频拼接算法,将各相邻的第一视频片段进行顺次拼接,得到目标混剪视频。
根据本公开的一个或多个实施例,示例十提供了一种计算机设备,包括:
一个或多个处理装置;
存储装置,用于存储一个或多个程序;
当一个或多个程序被一个或多个处理装置执行,使得一个或多个处理装置实现如示例一至八中任一的混剪视频确定方法。
根据本公开的一个或多个实施例,示例十一提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如示例一至八中任一的混剪视频确定方法。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

Claims (11)

1.一种混剪视频确定方法,其特征在于,包括:
根据预设背景音频,依序确定各音频片段分别对应的第一视频片段集合;其中,音频片段为根据音频关键点,将所述预设背景音频分割后得到的音频片段;
基于第一视频特征,确定各第一视频片段集合分别对应的第一视频特征表征数据集合,其中,第一视频特征包括至少两种视频特征;
根据各所述第一视频特征表征数据集合,确定用于混剪的各第一视频片段,其中,每相邻两个第一视频片段分别属于相邻两个音频片段对应的第一视频片段集合;
利用视频拼接算法,将各相邻的第一视频片段进行顺次拼接,得到目标混剪视频。
2.根据权利要求1所述的方法,其特征在于,在确定与音频片段对应的第一视频片段集合之前,还包括:
分别对每个音频片段对应的原始视频执行如下操作:
根据音频片段的时长,对原始视频进行视频片段提取,得到第一视频片段集合,其中,第一视频片段集合中的每个第一视频片段的时长均等于音频片段时长。
3.根据权利要求1所述的方法,其特征在于,第一视频特征包括美学特征、色彩特征和运动速度特征。
4.根据权利要求3所述的方法,其特征在于,基于第一视频特征,确定第一视频片段集合对应的第一视频特征表征数据集合,包括:
分别对第一视频片段集合中的每个第一视频片段执行如下操作:
将第一视频片段输入预先训练的美学特征深度学习网络,输出第一视频片段的美学特征表征数据;
将每个第一图像中的每个像素点对应的色彩值归一化为色彩特征表征子数据,其中,第一图像为第一视频片段中的图像;
基于色彩特征表征子数据,利用色彩特征表征数据确定规则,确定第一视频片段的色彩特征表征数据;
利用光流算法确定相邻两个第一图像之间的运动速度差值,并将运动速度差值归一化为运动速度表征子数据;
基于运动速度表征子数据,利用运动速度表征数据确定规则,确定第一视频片段的运动速度表征数据;
利用美学特征表征数据、色彩特征表征数据以及运动速度特征表征数据,确定第一视频片段的第一视频特征表征数据;
将每个第一视频特征表征数据作为第一视频特征表征数据集合。
5.根据权利要求1所述的方法,其特征在于,根据所述第一视频特征表征数据集合,确定最终用于混剪的各第一视频片段,包括:
针对各所述第一视频特征表征数据集合,在相应的第一视频片段集合中,确定候选第一视频片段集合;
基于第二视频特征,确定候选第一视频片段对所对应的第二视频特征表征数据,其中,所述候选第一视频片段对中的两个候选视频片段,分别属于相邻两个音频片段对应的两个候选第一视频片段集合,第二视频特征包括运动方向;
根据所述第二视频特征表征数据,确定用于混剪的各第一视频片段。
6.根据权利要求5所述的方法,其特征在于,针对各所述第一视频特征表征数据集合,在相应的第一视频片段集合中,确定候选第一视频片段集合,包括:
对各第一视频特征表征数据集合执行如下操作:
将所述第一视频特征表征数据集合中的第一视频特征表征数据依据数值大小进行排序;
确定前预设数目个第一视频特征表征数据对应的各第一视频片段,并将各第一视频片段作为候选第一视频片段集合。
7.根据权利要求5所述的方法,其特征在于,基于第二视频特征,确定候选第一视频片段对所对应的第二视频特征表征数据,包括:
对各候选第一视频片段对执行如下操作:
利用光流算法确定相邻两个第二图像之间的运动方向偏差,并将运动方向偏差归一化为运动方向表征数据,所述运动方向表征数据与候选第一视频片段对相对应,其中,在相邻两个第二图像中,前一个第二图像为在候选第一视频片段对中,前一个候选第一视频片段的最后一帧图像,后一个第二图像为在候选第一视频片段对中,后一个候选第一视频片段的第一帧图像。
8.根据权利要求5所述的方法,其特征在于,根据所述第二视频特征表征数据,确定用于混剪的各第一视频片段,包括:
对各相邻两个音频片段对应的运动方向表征数据执行如下操作:
遍历相邻两个音频片段对应的运动方向表征数据,确定目标运动方向表征数据对应的候选第一视频片段对;
根据各候选第一视频片段对,确定用于混剪的各第一视频片段。
9.一种混剪视频确定装置,其特征在于,包括:
信息确定模块,用于根据预设背景音频,依序确定各音频片段分别对应的第一视频片段集合;其中,音频片段为根据音频关键点,将所述预设背景音频分割后得到的音频片段;
第一视频特征表征数据集合确定模块,用于基于第一视频特征,确定各第一视频片段集合分别对应的第一视频特征表征数据集合,其中,第一视频特征包括至少两种视频特征;
各第一视频片段确定模块,用于根据各所述第一视频特征表征数据集合,确定用于混剪的各第一视频片段,其中,每相邻两个第一视频片段分别属于相邻两个音频片段对应的第一视频片段集合;
目标混剪视频确定模块,用于利用视频拼接算法,将各相邻的第一视频片段进行顺次拼接,得到目标混剪视频。
10.一种计算机设备,其特征在于,所述计算机设备包括:
一个或多个处理装置;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理装置执行,使得所述一个或多个处理装置实现如权利要求1-8中任一所述的混剪视频确定方法。
11.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现如权利要求1-8中任一所述的混剪视频确定方法。
CN202010245223.XA 2020-03-31 2020-03-31 一种混剪视频确定方法、装置、设备及存储介质 Active CN111432141B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010245223.XA CN111432141B (zh) 2020-03-31 2020-03-31 一种混剪视频确定方法、装置、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010245223.XA CN111432141B (zh) 2020-03-31 2020-03-31 一种混剪视频确定方法、装置、设备及存储介质

Publications (2)

Publication Number Publication Date
CN111432141A true CN111432141A (zh) 2020-07-17
CN111432141B CN111432141B (zh) 2022-06-17

Family

ID=71550276

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010245223.XA Active CN111432141B (zh) 2020-03-31 2020-03-31 一种混剪视频确定方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN111432141B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111970538A (zh) * 2020-08-27 2020-11-20 上海松鼠课堂人工智能科技有限公司 教学视频处理方法与系统
CN112203140A (zh) * 2020-09-10 2021-01-08 北京达佳互联信息技术有限公司 一种视频剪辑方法、装置、电子设备及存储介质
CN113727038A (zh) * 2021-07-28 2021-11-30 北京达佳互联信息技术有限公司 一种视频处理方法、装置、电子设备及存储介质

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040085341A1 (en) * 2002-11-01 2004-05-06 Xian-Sheng Hua Systems and methods for automatically editing a video
US20040239817A1 (en) * 2001-05-25 2004-12-02 Sachin Jain Analysis of video footage
US20160373834A1 (en) * 2015-02-06 2016-12-22 Empire Technology Development Llc Rhythm based multimedia generator
CN107393569A (zh) * 2017-08-16 2017-11-24 成都品果科技有限公司 音视频剪辑方法及装置
CN109168084A (zh) * 2018-10-24 2019-01-08 麒麟合盛网络技术股份有限公司 一种视频剪辑的方法和装置
CN109688463A (zh) * 2018-12-27 2019-04-26 北京字节跳动网络技术有限公司 一种剪辑视频生成方法、装置、终端设备及存储介质
CN110278388A (zh) * 2019-06-19 2019-09-24 北京字节跳动网络技术有限公司 展示视频的生成方法、装置、设备及存储介质
CN110324718A (zh) * 2019-08-05 2019-10-11 北京字节跳动网络技术有限公司 音视频生成方法、装置、电子设备及可读介质
CN110677711A (zh) * 2019-10-17 2020-01-10 北京字节跳动网络技术有限公司 视频配乐方法、装置、电子设备及计算机可读介质
CN110769309A (zh) * 2019-11-04 2020-02-07 北京字节跳动网络技术有限公司 用于展示音乐点的方法、装置、电子设备和介质
CN110856042A (zh) * 2019-11-18 2020-02-28 腾讯科技(深圳)有限公司 视频播放方法、装置、计算机可读存储介质和计算机设备

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040239817A1 (en) * 2001-05-25 2004-12-02 Sachin Jain Analysis of video footage
US20040085341A1 (en) * 2002-11-01 2004-05-06 Xian-Sheng Hua Systems and methods for automatically editing a video
US20160373834A1 (en) * 2015-02-06 2016-12-22 Empire Technology Development Llc Rhythm based multimedia generator
CN107393569A (zh) * 2017-08-16 2017-11-24 成都品果科技有限公司 音视频剪辑方法及装置
CN109168084A (zh) * 2018-10-24 2019-01-08 麒麟合盛网络技术股份有限公司 一种视频剪辑的方法和装置
CN109688463A (zh) * 2018-12-27 2019-04-26 北京字节跳动网络技术有限公司 一种剪辑视频生成方法、装置、终端设备及存储介质
CN110278388A (zh) * 2019-06-19 2019-09-24 北京字节跳动网络技术有限公司 展示视频的生成方法、装置、设备及存储介质
CN110324718A (zh) * 2019-08-05 2019-10-11 北京字节跳动网络技术有限公司 音视频生成方法、装置、电子设备及可读介质
CN110677711A (zh) * 2019-10-17 2020-01-10 北京字节跳动网络技术有限公司 视频配乐方法、装置、电子设备及计算机可读介质
CN110769309A (zh) * 2019-11-04 2020-02-07 北京字节跳动网络技术有限公司 用于展示音乐点的方法、装置、电子设备和介质
CN110856042A (zh) * 2019-11-18 2020-02-28 腾讯科技(深圳)有限公司 视频播放方法、装置、计算机可读存储介质和计算机设备

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111970538A (zh) * 2020-08-27 2020-11-20 上海松鼠课堂人工智能科技有限公司 教学视频处理方法与系统
CN112203140A (zh) * 2020-09-10 2021-01-08 北京达佳互联信息技术有限公司 一种视频剪辑方法、装置、电子设备及存储介质
CN112203140B (zh) * 2020-09-10 2022-04-01 北京达佳互联信息技术有限公司 一种视频剪辑方法、装置、电子设备及存储介质
CN113727038A (zh) * 2021-07-28 2021-11-30 北京达佳互联信息技术有限公司 一种视频处理方法、装置、电子设备及存储介质
CN113727038B (zh) * 2021-07-28 2023-09-05 北京达佳互联信息技术有限公司 一种视频处理方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
CN111432141B (zh) 2022-06-17

Similar Documents

Publication Publication Date Title
CN109688463B (zh) 一种剪辑视频生成方法、装置、终端设备及存储介质
CN110677711B (zh) 视频配乐方法、装置、电子设备及计算机可读介质
CN111432141B (zh) 一种混剪视频确定方法、装置、设备及存储介质
CN111210485B (zh) 图像的处理方法、装置、可读介质和电子设备
CN111669502B (zh) 目标对象显示方法、装置及电子设备
CN114331820A (zh) 图像处理方法、装置、电子设备及存储介质
CN110472558B (zh) 图像处理方法和装置
US20240147050A1 (en) Prop processing method and apparatus, and device and medium
CN114245028A (zh) 图像展示方法、装置、电子设备及存储介质
CN114037716A (zh) 图像分割方法、装置、设备及存储介质
CN114422698B (zh) 视频生成方法、装置、设备及存储介质
CN113259601A (zh) 视频处理方法、装置、可读介质和电子设备
CN112306235A (zh) 一种手势操作方法、装置、设备和存储介质
CN109816670B (zh) 用于生成图像分割模型的方法和装置
CN113610034B (zh) 识别视频中人物实体的方法、装置、存储介质及电子设备
CN111461967A (zh) 图片处理方法、装置、设备和计算机可读介质
CN112906553B (zh) 图像处理方法、装置、设备及介质
CN112183388B (zh) 图像处理方法、装置、设备和介质
CN113225488B (zh) 一种视频处理方法、装置、电子设备及存储介质
CN117319705A (zh) 视频生成方法、装置、介质及电子设备
CN110348369B (zh) 一种视频场景分类方法、装置、移动终端及存储介质
CN112306603A (zh) 信息提示方法、装置、电子设备及存储介质
CN113628097A (zh) 图像特效配置方法、图像识别方法、装置及电子设备
CN111626922A (zh) 图片生成方法、装置、电子设备及计算机可读存储介质
CN112231023A (zh) 一种信息显示方法、装置、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant