CN111444384A - 一种音频关键点确定方法、装置、设备及存储介质 - Google Patents
一种音频关键点确定方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN111444384A CN111444384A CN202010245236.7A CN202010245236A CN111444384A CN 111444384 A CN111444384 A CN 111444384A CN 202010245236 A CN202010245236 A CN 202010245236A CN 111444384 A CN111444384 A CN 111444384A
- Authority
- CN
- China
- Prior art keywords
- point
- audio
- preset
- determining
- sound intensity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/60—Information retrieval; Database structures therefor; File system structures therefor of audio data
- G06F16/68—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/683—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/40—Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
- G06F16/43—Querying
- G06F16/432—Query formulation
- G06F16/433—Query formulation using audio data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- Library & Information Science (AREA)
- Mathematical Physics (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Biophysics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Electrophonic Musical Instruments (AREA)
Abstract
本公开实施例公开了一种音频关键点确定方法、装置、设备及存储介质。其中,音频关键点确定方法包括:确定目标音频的特征点位置,特征点包括鼓点和节奏点;确定特征点对应的声音强度;基于预设关键点确定规则,结合声音强度,确定目标音频的关键点。本公开实施例的技术方案通过利用目标音频包括鼓点和节奏点在内的特征点,并结合各特征点的声音强度,来确定目标音频的关键点,克服了仅利用单一特征点来确定关键点导致的关键点确定不准确的不足,达到了更加准确地确定音频关键点的效果。
Description
技术领域
本公开实施例涉及音频数据处理技术领域,尤其涉及一种音频关键点确定方法、装置、设备及存储介质。
背景技术
音频是互联网上常见的多媒体形式,从音频里面提取出特征点作为音频的关键点是短视频应用常见的应用场景。
现有的音频关键点提取的方法通常包括基于音频鼓点的提取方法和基于音频节奏点的提取方法,其中,基于音频鼓点的提取方法,在音频非常舒缓的场景下,会漏掉很多关键信息,导致关键点不准确。基于音频节奏点的提取方法,会导致关键点非常均匀,同样也会让人感觉音频关键点不准和丢失的情况。
发明内容
本公开实施例提供一种音频关键点确定方法、装置、设备及存储介质,达到了更加准确的确定音频关键点的效果。
第一方面,本公开实施例提供了一种音频关键点确定方法,所述方法包括:
确定目标音频的特征点位置,所述特征点包括鼓点和节奏点;
确定特征点对应的声音强度;
基于预设关键点确定规则,结合所述声音强度,确定所述目标音频的关键点。
第二方面,本公开实施例还提供了一种音频关键点确定装置,所述装置包括:
特征点位置确定模块,用于确定目标音频的特征点位置,所述特征点包括鼓点和节奏点;
声音强度确定模块,用于确定特征点对应的声音强度;
关键点确定模块,用于基于预设关键点确定规则,结合所述声音强度,确定所述目标音频的关键点。
第三方面,本公开实施例还提供了一种计算机设备,所述计算机设备包括:
一个或多个处理装置;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理装置执行,使得所述一个或多个处理装置实现如本公开任一实施例所述的音频关键点确定方法。
第四方面,本公开实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现如本公开任一实施例所述的音频关键点确定方法。
本公开实施例确定目标音频的特征点位置,特征点包括鼓点和节奏点;确定特征点对应的声音强度;基于预设关键点确定规则,结合声音强度,确定目标音频的关键点,上述通过利用目标音频包括鼓点和节奏点在内的特征点,并结合各特征点的声音强度,来确定目标音频的关键点,克服了仅利用单一特征点来确定关键点导致的关键点确定不准确的不足,达到了更加准确地确定音频关键点的效果。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。
图1是本公开实施例一提供的一种音频关键点确定方法的流程图;
图2是本公开实施例二提供的一种音频关键点确定方法的流程图;
图3是本公开实施例三提供的一种音频关键点确定装置的结构示意图;
图4是本公开实施例四提供的一种计算机设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
实施例一
图1为本公开实施例一提供的一种音频关键点确定方法的流程图。本实施例可适用于需要确定音频中关键点位置的情况,该方法可以由音频关键点确定装置来执行,该装置可以采用软件和/或硬件的方式实现,该装置可以配置于计算机设备中。如图1所示,该方法可以包括如下步骤:
S110、确定目标音频的特征点位置,特征点包括鼓点和节奏点。
本实施例中,音频可以是存储声音内容的文件,其中,声音内容可以是人耳可以听到的频率在20HZ~20kHz之间的声波,其本质内容可以包括声音强度和时间信息。本实施例中,目标音频可以是原始音频信号经过预处理后生成的音频信号。一般的,原始音频信号为连续的时域信号,但由于计算机只能处理离散信号,优选可以对原始音频信号进行采样和量化,以得到便于分析的离散数字信号。可以通过对原始音频信号按照设定采样频率进行采样,得到离散的时域信号,示例性的,设定采样频率可以是44.1kHz。示例性的,目标音频可以是用来制作混剪视频的背景音频。
优选的,特征点可以是用来表征音频特征的位置点,其中,特征点可以包括鼓点和节奏点。鼓点可以用于表示目标音频的声音强度特征,鼓点又可以称为重拍,其位于音频中振幅幅度大(或声音强度大)的音频帧。节奏点可以用于表示目标音频的节奏特征。通常节奏点用于表征音符,示例性的,可以将在音频信号中距离音符起始的时间点最近的位置点作为节奏点。
S120、确定特征点对应的声音强度。
其中,声音强度可以是声波在单位时间内作用在与其传递方向垂直的单位面积上的能量,其单位为分贝,通俗来讲,声音强度可以是音频信号中主音调的强弱程度,其可以是判别乐音的基础。优选的,目标音频中的每个时间对应的位置点都具有一个声音强度。示例性的,鼓点有其对应的声音强度,节奏点有其对应的声音强度等。可以理解的是,如果鼓点和节奏点重合,则该鼓点和节奏点对应相同的声音强度。
S130、基于预设关键点确定规则,结合声音强度,确定目标音频的关键点。
示例性的,预设关键点确定规则可以包括:在关键点预设数目已知的前提下,可以将目标音频中声音强度比较强的预设数目个特征点作为关键点,也可以将声音强度比较弱的预设数目个特征点作为关键点。在声音强度阈值已知的前提下,可以将目标音频中声音强度高于声音强度阈值的特征点作为关键点,也可以将声音强度低于声音强度阈值的特征点作为关键点。在时间窗口已知的前提下,可以将目标音频中每个时间窗口内声音强度最强的一个或多个特征点作为关键点,也可以将目标音频中每个时间窗口内声音强度最弱的一个或多个特征点作为关键点。在时间窗口和声音强度阈值已知的前提下,可以将目标音频中每个时间窗口内声音强度高于声音强度阈值的特征点作为关键点,也可以将目标音频中每个时间窗口内声音强度低于声音强度阈值的特征点作为关键点。
上述仅为对预设关键点确定规则的示例,并不对其构成限定。可以理解的是,预设关键点确定规则可以根据实际需要的关键点进行设定,在此不做任何特殊限定。
本实施例中,关键点的作用可以根据其所在目标音频的具体用途确定。示例性的,如果目标音频用于视频混剪,则关键点可以用于视频转场,如果目标音频用于音频片段提取,则关键点可以作为音频关键片段提取的基准。以关键点用于视频转场为例,如果需要获取节奏轻快的混剪视频,则优选可以基于预设关键点确定规则,确定较多数量的关键点,即关键点在目标音频时间轴上距离较近;如果需要获取节奏舒缓的混剪视频,则优选可以基于预设关键点确定规则,确定较少数量的关键点,即关键点在目标音频时间轴上距离较远。
本实施例提供的一种音频关键点确定方法,确定目标音频的特征点位置,特征点包括鼓点和节奏点;确定特征点对应的声音强度;基于预设关键点确定规则,结合声音强度,确定目标音频的关键点,上述通过利用目标音频包括鼓点和节奏点在内的特征点,并结合各特征点的声音强度,来确定目标音频的关键点,克服了仅利用单一特征点来确定关键点导致的关键点确定不准确的不足,达到了更加准确地确定音频关键点的效果。
在上述各实施例的基础上,进一步的,基于预设关键点确定规则,结合声音强度,确定目标音频的关键点,包括:
从目标音频的起始点开始,依序确定目标音频单位内的特征点,其中,目标音频单位为在目标音频中,具有第二预设数目个音频帧的音频片段;
若目标音频单位内具有一个特征点,则将特征点作为目标音频单位对应的关键点;
若目标音频单位内具有多个特征点,则将特征点中具有最大或最小声音强度的特征点作为目标音频单位对应的关键点。
其中,目标音频单位即为上述提到的时间窗口中的一种,该目标音频单位的基本单位为音频帧,其中,音频帧可以包括至少一各频率的音频信号,对音频进行分帧即可获得若干顺序排列的音频帧。目标音频单位时长可以根据实际情况进行设定,在此不做特殊限定。可以理解的是,可以先确定目标音频单位时长,再根据音频帧时长确定第二预设数目,也可以先确定第二预设数目,再根据音频帧时长确定目标音频单位时长。
示例性的,目标音频的时长为20s,一个音频帧的时长为1s,第二预设数目为4,则一个目标音频单位的时长为4×1=4s,则从目标音频的起始点0s开始,依序可以确定5个目标音频单位。在确定每个目标音频单位之后,检测每个目标音频单位中的特征点,若第一个目标音频单位中只在2s处存在一个特征点,第二个目标音频单位中在6s和7s处分别存在一个特征点,且7s处的特征点对应的声音强度较大,第三个目标音频单位中只在9s处存在一个特征点,第四个目标音频单位中在13s和15s处分别存在一个特征点,且13s处的特征点对应的声音强度较大,第五个目标音频单位中在17s、18s和19s处分别存在一个特征点,且18s处的特征点对应的声音强度较大,则目标音频的关键点为2s、7s、9s、13s和18s处的特征点。
在上述各实施例的基础上,进一步的,基于预设关键点确定规则,结合声音强度,确定目标音频的关键点,包括:
根据预设关键点数目,将目标音频的特征点对应的声音强度进行降序排列,并将前预设关键点数目个声音强度对应的特征点作为关键点;
或,根据预设关键点数目,将目标音频的特征点对应的声音强度进行升序排列,并将前预设关键点数目个声音强度对应的特征点作为关键点。
示例性的,目标音频包括10个特征点,其对应的特征点和声音强度分别是1、16、4、23、70、20、90、144、100、55,预设关键点数目为3,若关键点为声音强度进行降序排列后的前3个声音强度对应的特征点,则关键点包括声音强度144、100和90对应的特征点。若关键点为声音强度进行升排列后的前3个声音强度对应的特征点,则关键点包括声音强度1、4和16对应的特征点。
实施例二
图2为本公开实施例二提供的一种音频关键点确定方法的流程图。本实施例可以与上述一个或者多个实施例中各个可选方案结合,在本实施例中,确定目标音频的鼓点位置,包括:
从所述目标音频的起始点开始,依序计算各预设音频单位在复频域内的音频差,其中,所述预设音频单位为在所述目标音频中,具有第一预设数目个音频帧的音频片段;
根据所述音频差,确定各所述预设音频单位的声音强度;
基于各所述预设音频单位的声音强度,确定所述鼓点位置。
以及,确定目标音频的节奏点位置,包括:
将所述目标音频输入目标卷积神经网络中,输出所述节奏点位置。
以及,所述声音强度包括所述鼓点对应的第一声音强度和所述节奏点对应的第二声音强度,相应的,确定特征点对应的声音强度,包括:
将所述鼓点所在的预设音频单位作为第一预设音频单位,将所述第一预设音频单位对应的声音强度作为所述第一声音强度;
根据所述节奏点位置,确定所述节奏点所在的预设音频单位为第二预设音频单位;
将所述第二预设音频单位对应的声音强度作为所述第二声音强度。
如图2所示,该方法可以包括如下步骤:
S210、从目标音频的起始点开始,依序计算各预设音频单位在复频域内的音频差,其中,预设音频单位为在目标音频中,具有第一预设数目个音频帧的音频片段。
S220、根据音频差,确定各预设音频单位的声音强度。
其中,预设音频单位与目标音频单位的本质相同,在此不再重复。预设音频单位时长可以与目标音频单位时长相同,也可以不同(通常情况下,由于预设音频单位时长较短,因此预设音频单位时长与目标音频单位时长不同)。
由于声音强度的本质为能量,因此,优选的,可以将各预设音频单位转换到复频域内,基于各预设音频单位在复频域内的频率,确定各预设音频单位的声音强度,优选的,可以通过确定预设音频单位在复频域内的音频差,来确定预设音频单位对应的能量,进而确定各预设音频单位的声音强度。
S230、基于各预设音频单位的声音强度,确定鼓点位置。
由于鼓点为音频中声音突然大幅提高的位置点,因此,优选的,可以将各预设音频单位的声音强度分别与预设声音强度阈值进行比较;
根据比较结果确定声音强度高于预设声音强度阈值的预设音频单位,并将确定的预设音频单位的起始点作为鼓点位置。
示例性的,目标音频的时长为20s,一个音频帧的时长为1s,第一预设数目为2,则一个目标音频单位的时长为2×1=2s,则从目标音频的起始点0s开始,依序可以确定10个预设音频单位。上述10个预设音频单位对应的声音强度分别是3、23、54、78、30、17、2、67、110、43,预设声音强度阈值为50,则确定鼓点位置对应的预设音频单位分别是声音强度54、78、67和110对应的预设音频单位,并将54、78、67和110对应的预设音频单位的起始点6s、8s、16s和18s作为鼓点位置。
S240、将目标音频输入目标卷积神经网络中,输出节奏点位置。
其中,目标卷积神经网络是预先训练好的,示例性的,目标卷积神经网络可以是深度卷积神经网络,也可以是循环卷积神经网络。优选的,在将所述目标音频输入目标卷积神经网络中,输出所述节奏点位置之前,可以对目标卷积神经网络进行预先训练好。
具体的:预先获取音频样本集以及所述音频样本集对应的节奏点位置信息;基于所述音频样本集以及所述音频样本集对应的节奏点位置信息生成训练样本对,使用所述训练样本对对所述预先构建的卷积神经网络进行训练,得到训练好的目标卷积神经网络。其中,节奏点位置信息优选可以通过人工标注获得。
示例性的,目标音频的时长为20s,节奏点位置可以位于目标音频的1s、5s、10s和12s处。
S250、将鼓点所在的预设音频单位作为第一预设音频单位,将第一预设音频单位对应的声音强度作为第一声音强度。
优选可以根据预设音频单位的声音强度确定鼓点的第一声音强度。优选的,在上述确定鼓点位置的过程中,可以确定其对应的第一声音强度。示例性的,位于6s、8s、16s和18s处的鼓点对应的第一声音强度分别为54、78、67和110。
S260、根据节奏点位置,确定节奏点所在的预设音频单位为第二预设音频单位。
仍以上述节奏点位置为例,节奏点位置位于目标音频的1s、5s、10s和12s处,基于此可以确定节奏点分别落在时长为20s,一个音频帧的时长为1s,第一预设数目为2的目标音频中的第1个、第3个、第5个和第6个预设音频单位内,则将目标音频中的第1个、第3个、第5个和第6个预设音频单位作为第二预设音频单位。
S270、将第二预设音频单位对应的声音强度作为第二声音强度。
确定第二预设音频单位(即目标音频中的第1个、第3个、第5个和第6个预设音频单位)分别对应的声音强度为3、54、30、17,将声音强度3、54、30、17作为节奏点对应的第二声音强度。
S280、基于预设关键点确定规则,结合声音强度,确定目标音频的关键点。
本实施例提供的一种音频关键点确定方法,通过从目标音频的起始点开始,依序计算各预设音频单位在复频域内的音频差,其中,预设音频单位为在目标音频中,具有第一预设数目个音频帧的音频片段;根据音频差,确定各预设音频单位的声音强度;基于各预设音频单位的声音强度,确定鼓点位置,将目标音频输入目标卷积神经网络中,输出节奏点位置,将鼓点所在的预设音频单位作为第一预设音频单位,将第一预设音频单位对应的声音强度作为第一声音强度;根据节奏点位置,确定节奏点所在的预设音频单位为第二预设音频单位;将第二预设音频单位对应的声音强度作为第二声音强度,,基于预设关键点确定规则,结合声音强度,确定目标音频的关键点,克服了仅利用单一特征点来确定关键点导致的关键点确定不准确的不足,达到了更加准确地确定音频关键点的效果。
实施例三
图3为本公开实施例三提供的一种音频关键点确定装置的结构示意图。本实施例可适用于需要确定音频中关键点位置的情况。该装置可以采用软件和/或硬件的方式实现,该装置可以配置于计算机设备中。如图3所示,该装置可以包括:
特征点位置确定模块310,用于确定目标音频的特征点位置,特征点包括鼓点和节奏点;
声音强度确定模块320,用于确定特征点对应的声音强度;
关键点确定模块330,用于基于预设关键点确定规则,结合声音强度,确定目标音频的关键点。
本实施例提供的一种音频关键点确定装置,利用特征点位置确定模块确定目标音频的特征点位置,特征点包括鼓点和节奏点;利用声音强度确定模块确定特征点对应的声音强度;利用关键点确定模块基于预设关键点确定规则,结合声音强度,确定目标音频的关键点,通过利用目标音频包括鼓点和节奏点在内的特征点,并结合各特征点的声音强度,来确定目标音频的关键点,克服了仅利用单一特征点来确定关键点导致的关键点确定不准确的不足,达到了更加准确地确定音频关键点的效果。
在上述技术方案的基础上,可选的,特征点位置确定模块310具体可以包括:
音频差计算单元,用于从目标音频的起始点开始,依序计算各预设音频单位在复频域内的音频差,其中,预设音频单位为在目标音频中,具有第一预设数目个音频帧的音频片段;
声音强度确定单元,用于根据音频差,确定各预设音频单位的声音强度;
鼓点位置确定单元,用于基于各预设音频单位的声音强度,确定鼓点位置。
在上述技术方案的基础上,可选的,鼓点位置确定单元具体可以包括:
声音强度比较子单元,用于将各预设音频单位的声音强度分别与预设声音强度阈值进行比较;
鼓点位置确定子单元,用于根据比较结果确定声音强度高于预设声音强度阈值的预设音频单位,并将确定的预设音频单位的起始点作为鼓点位置。
在上述技术方案的基础上,可选的,特征点位置确定模块310具体还可以包括:
节奏点位置确定单元,用于将目标音频输入目标卷积神经网络中,输出节奏点位置。
在上述技术方案的基础上,可选的,声音强度包括鼓点对应的第一声音强度和节奏点对应的第二声音强度,声音强度确定模块320具体可以包括:
第一声音强度确定单元,用于将鼓点所在的预设音频单位作为第一预设音频单位,将第一预设音频单位对应的声音强度作为第一声音强度;
第二预设音频单位确定单元,用于根据节奏点位置,确定节奏点所在的预设音频单位为第二预设音频单位;
第二声音强度确定单元,用于将第二预设音频单位对应的声音强度作为第二声音强度。
在上述技术方案的基础上,可选的,关键点确定模块330具体可以包括:
目标音频单位内特征点确定单元,用于从目标音频的起始点开始,依序确定目标音频单位内的特征点,其中,目标音频单位为在目标音频中,具有第二预设数目个音频帧的音频片段;
第一关键点确定单元,用于若目标音频单位内具有一个特征点,则将特征点作为目标音频单位对应的关键点;
第二关键点确定单元,用于若目标音频单位内具有多个特征点,则将特征点中具有最大或最小声音强度的特征点作为目标音频单位对应的关键点。
在上述技术方案的基础上,可选的,关键点确定模块330具体可以包括:
第三关键点确定单元,用于根据预设关键点数目,将目标音频的特征点对应的声音强度进行降序排列,并将前预设关键点数目个声音强度对应的特征点作为关键点;
或,第四关键点确定单元,用于根据预设关键点数目,将目标音频的特征点对应的声音强度进行升序排列,并将前预设关键点数目个声音强度对应的特征点作为关键点。
本公开实施例所提供的音频关键点确定装置可执行本公开实施例所提供的音频关键点确定方法,具备执行方法相应的功能模块和有益效果。
实施例四
下面参考图4,其示出了适于用来实现本公开实施例四的计算机设备400的结构示意图。本公开实施例中的计算机设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等。图4示出的计算机设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图4所示,计算机设备400可以包括处理装置(例如中央处理器、图形处理器等)401,其可以根据存储在只读存储器(ROM)402中的程序或者从存储装置406加载到随机访问存储器(RAM)403中的程序而执行各种适当的动作和处理。在RAM 403中,还存储有计算机设备400操作所需的各种程序和数据。处理装置401、ROM 402以及RAM 403通过总线544彼此相连。输入/输出(I/O)接口405也连接至总线404。
通常,以下装置可以连接至I/O接口405:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置406;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置407;包括例如磁带、硬盘等的存储装置406;以及通信装置409。通信装置409可以允许计算机设备400与其他设备进行无线或有线通信以交换数据。虽然图4示出了具有各种装置的计算机设备400,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置409从网络上被下载和安装,或者从存储装置406被安装,或者从ROM 402被安装。在该计算机程序被处理装置401执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述计算机设备中所包含的;也可以是单独存在,而未装配入该计算机设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该计算机设备执行时,使得该计算机设备:确定目标音频的特征点位置,特征点包括鼓点和节奏点;确定特征点对应的声音强度;基于预设关键点确定规则,结合声音强度,确定目标音频的关键点。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的方法、装置、计算机设备和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的模块、单元以及子单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,模块、单元或者子单元的名称在某种情况下并不构成对该模块、单元或者子单元本身的限定,例如,声音强度确定模块还可以被描述为“确定特征点对应的声音强度的模块”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开的一个或多个实施例,示例一提供了一种音频关键点确定方法,包括:
确定目标音频的特征点位置,特征点包括鼓点和节奏点;
确定特征点对应的声音强度;
基于预设关键点确定规则,结合声音强度,确定目标音频的关键点。
根据本公开的一个或多个实施例,示例二提供了一种音频关键点确定方法,在示例一的音频关键点确定方法的基础上,确定目标音频的鼓点位置,包括:
从目标音频的起始点开始,依序计算各预设音频单位在复频域内的音频差,其中,预设音频单位为在目标音频中,具有第一预设数目个音频帧的音频片段;
根据音频差,确定各预设音频单位的声音强度;
基于各预设音频单位的声音强度,确定鼓点位置。
根据本公开的一个或多个实施例,示例三提供了一种音频关键点确定方法,在示例二的音频关键点确定方法的基础上,基于各预设音频单位的声音强度,确定鼓点位置,包括:
将各预设音频单位的声音强度分别与预设声音强度阈值进行比较;
根据比较结果确定将声音强度高于预设声音强度阈值的预设音频单位,并将确定的预设音频单位的起始点作为鼓点位置。
根据本公开的一个或多个实施例,示例四提供了一种音频关键点确定方法,在示例一的音频关键点确定方法的基础上,确定目标音频的节奏点位置,包括:
将目标音频输入目标卷积神经网络中,输出节奏点位置。
根据本公开的一个或多个实施例,示例五提供了一种音频关键点确定方法,在示例二的音频关键点确定方法的基础上,声音强度包括鼓点对应的第一声音强度和节奏点对应的第二声音强度,相应的,确定特征点对应的声音强度,包括:
将鼓点所在的预设音频单位作为第一预设音频单位,将第一预设音频单位对应的声音强度作为第一声音强度;
根据节奏点位置,确定节奏点所在的预设音频单位为第二预设音频单位;
将第二预设音频单位对应的声音强度作为第二声音强度。
根据本公开的一个或多个实施例,示例六提供了一种音频关键点确定方法,在示例一的音频关键点确定方法的基础上,基于预设关键点确定规则,结合声音强度,确定目标音频的关键点,包括:
从目标音频的起始点开始,依序确定目标音频单位内的特征点,其中,目标音频单位为在目标音频中,具有第二预设数目个音频帧的音频片段;
若目标音频单位内具有一个特征点,则将特征点作为目标音频单位对应的关键点;
若目标音频单位内具有多个特征点,则将特征点中具有最大或最小声音强度的特征点作为目标音频单位对应的关键点。
根据本公开的一个或多个实施例,示例七提供了一种音频关键点确定方法,在示例一的音频关键点确定方法的基础上,基于预设关键点确定规则,结合声音强度,确定目标音频的关键点,包括:
根据预设关键点数目,将目标音频的特征点对应的声音强度进行降序排列,并将前预设关键点数目个声音强度对应的特征点作为关键点;
或,根据预设关键点数目,将目标音频的特征点对应的声音强度进行升序排列,并将前预设关键点数目个声音强度对应的特征点作为关键点。
根据本公开的一个或多个实施例,示例八提供了一种音频关键点确定装置,包括:
特征点位置确定模块,用于确定目标音频的特征点位置,特征点包括鼓点和节奏点;
声音强度确定模块,用于确定特征点对应的声音强度;
关键点确定模块,用于基于预设关键点确定规则,结合声音强度,确定目标音频的关键点。
根据本公开的一个或多个实施例,示例九提供了一种计算机设备,包括:
一个或多个处理装置;
存储装置,用于存储一个或多个程序;
当一个或多个程序被一个或多个处理装置执行,使得一个或多个处理装置实现如示例一至七中任一的音频关键点确定方法。
根据本公开的一个或多个实施例,示例十提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如示例一至七中任一的音频关键点确定方法。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。
Claims (10)
1.一种音频关键点确定方法,其特征在于,包括:
确定目标音频的特征点位置,所述特征点包括鼓点和节奏点;
确定特征点对应的声音强度;
基于预设关键点确定规则,结合所述声音强度,确定所述目标音频的关键点。
2.根据权利要求1所述的方法,其特征在于,确定目标音频的鼓点位置,包括:
从所述目标音频的起始点开始,依序计算各预设音频单位在复频域内的音频差,其中,所述预设音频单位为在所述目标音频中,具有第一预设数目个音频帧的音频片段;
根据所述音频差,确定各所述预设音频单位的声音强度;
基于各所述预设音频单位的声音强度,确定所述鼓点位置。
3.根据权利要求2所述的方法,其特征在于,基于各所述预设音频单位的声音强度,确定所述鼓点位置,包括:
将各所述预设音频单位的声音强度分别与预设声音强度阈值进行比较;
根据比较结果确定声音强度高于所述预设声音强度阈值的预设音频单位,并将确定的预设音频单位的起始点作为所述鼓点位置。
4.根据权利要求1所述的方法,其特征在于,确定目标音频的节奏点位置,包括:
将所述目标音频输入目标卷积神经网络中,输出所述节奏点位置。
5.根据权利要求2所述的方法,其特征在于,所述声音强度包括所述鼓点对应的第一声音强度和所述节奏点对应的第二声音强度,相应的,确定特征点对应的声音强度,包括:
将所述鼓点所在的预设音频单位作为第一预设音频单位,将所述第一预设音频单位对应的声音强度作为所述第一声音强度;
根据所述节奏点位置,确定所述节奏点所在的预设音频单位为第二预设音频单位;
将所述第二预设音频单位对应的声音强度作为所述第二声音强度。
6.根据权利要求1所述的方法,其特征在于,所述基于预设关键点确定规则,结合所述声音强度,确定所述目标音频的关键点,包括:
从所述目标音频的起始点开始,依序确定目标音频单位内的特征点,其中,所述目标音频单位为在所述目标音频中,具有第二预设数目个音频帧的音频片段;
若所述目标音频单位内具有一个特征点,则将所述特征点作为所述目标音频单位对应的关键点;
若所述目标音频单位内具有多个特征点,则将所述特征点中具有最大或最小声音强度的特征点作为所述目标音频单位对应的关键点。
7.根据权利要求1所述的方法,其特征在于,所述基于预设关键点确定规则,结合所述声音强度,确定所述目标音频的关键点,包括:
根据预设关键点数目,将所述目标音频的特征点对应的声音强度进行降序排列,并将前预设关键点数目个声音强度对应的特征点作为所述关键点;
或,根据预设关键点数目,将所述目标音频的特征点对应的声音强度进行升序排列,并将前预设关键点数目个声音强度对应的特征点作为所述关键点。
8.一种音频关键点确定装置,其特征在于,包括:
特征点位置确定模块,用于确定目标音频的特征点位置,所述特征点包括鼓点和节奏点;
声音强度确定模块,用于确定特征点对应的声音强度;
关键点确定模块,用于基于预设关键点确定规则,结合所述声音强度,确定所述目标音频的关键点。
9.一种计算机设备,其特征在于,所述计算机设备包括:
一个或多个处理装置;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理装置执行,使得所述一个或多个处理装置实现如权利要求1-7中任一所述的音频关键点确定方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现如权利要求1-7中任一所述的音频关键点确定方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010245236.7A CN111444384B (zh) | 2020-03-31 | 2020-03-31 | 一种音频关键点确定方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010245236.7A CN111444384B (zh) | 2020-03-31 | 2020-03-31 | 一种音频关键点确定方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111444384A true CN111444384A (zh) | 2020-07-24 |
CN111444384B CN111444384B (zh) | 2023-10-13 |
Family
ID=71652641
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010245236.7A Active CN111444384B (zh) | 2020-03-31 | 2020-03-31 | 一种音频关键点确定方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111444384B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113362864A (zh) * | 2021-06-16 | 2021-09-07 | 北京字节跳动网络技术有限公司 | 音频信号处理的方法、装置、存储介质及电子设备 |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012220593A (ja) * | 2011-04-06 | 2012-11-12 | Casio Comput Co Ltd | 楽音生成装置および楽音生成プログラム |
KR20140061214A (ko) * | 2012-11-13 | 2014-05-21 | 삼성전자주식회사 | 음악 정보 검색 방법 및 그 장치 |
US20140358265A1 (en) * | 2013-05-31 | 2014-12-04 | Dolby Laboratories Licensing Corporation | Audio Processing Method and Audio Processing Apparatus, and Training Method |
WO2016189307A1 (en) * | 2015-05-26 | 2016-12-01 | Sonalytic Limited | Audio identification method |
CN107682642A (zh) * | 2017-09-19 | 2018-02-09 | 广州艾美网络科技有限公司 | 识别视频特效触发时间点的方法、装置和终端设备 |
US20180174599A1 (en) * | 2015-09-24 | 2018-06-21 | Alibaba Group Holding Limited | Audio recognition method and system |
CN108281157A (zh) * | 2017-12-28 | 2018-07-13 | 广州市百果园信息技术有限公司 | 音乐中鼓点节拍的检测方法及计算机存储介质、终端 |
CN108319657A (zh) * | 2018-01-04 | 2018-07-24 | 广州市百果园信息技术有限公司 | 检测强节奏点的方法、存储介质和终端 |
US20190335229A1 (en) * | 2017-04-21 | 2019-10-31 | Tencent Technology (Shenzhen) Company Limited | Video data generation method, computer device, and storage medium |
CN110753238A (zh) * | 2019-10-29 | 2020-02-04 | 北京字节跳动网络技术有限公司 | 视频处理方法、装置、终端及存储介质 |
CN110890083A (zh) * | 2019-10-31 | 2020-03-17 | 北京达佳互联信息技术有限公司 | 音频数据的处理方法、装置、电子设备及存储介质 |
-
2020
- 2020-03-31 CN CN202010245236.7A patent/CN111444384B/zh active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012220593A (ja) * | 2011-04-06 | 2012-11-12 | Casio Comput Co Ltd | 楽音生成装置および楽音生成プログラム |
KR20140061214A (ko) * | 2012-11-13 | 2014-05-21 | 삼성전자주식회사 | 음악 정보 검색 방법 및 그 장치 |
US20140358265A1 (en) * | 2013-05-31 | 2014-12-04 | Dolby Laboratories Licensing Corporation | Audio Processing Method and Audio Processing Apparatus, and Training Method |
WO2016189307A1 (en) * | 2015-05-26 | 2016-12-01 | Sonalytic Limited | Audio identification method |
US20180174599A1 (en) * | 2015-09-24 | 2018-06-21 | Alibaba Group Holding Limited | Audio recognition method and system |
US20190335229A1 (en) * | 2017-04-21 | 2019-10-31 | Tencent Technology (Shenzhen) Company Limited | Video data generation method, computer device, and storage medium |
CN107682642A (zh) * | 2017-09-19 | 2018-02-09 | 广州艾美网络科技有限公司 | 识别视频特效触发时间点的方法、装置和终端设备 |
CN108281157A (zh) * | 2017-12-28 | 2018-07-13 | 广州市百果园信息技术有限公司 | 音乐中鼓点节拍的检测方法及计算机存储介质、终端 |
CN108319657A (zh) * | 2018-01-04 | 2018-07-24 | 广州市百果园信息技术有限公司 | 检测强节奏点的方法、存储介质和终端 |
CN110753238A (zh) * | 2019-10-29 | 2020-02-04 | 北京字节跳动网络技术有限公司 | 视频处理方法、装置、终端及存储介质 |
CN110890083A (zh) * | 2019-10-31 | 2020-03-17 | 北京达佳互联信息技术有限公司 | 音频数据的处理方法、装置、电子设备及存储介质 |
Non-Patent Citations (1)
Title |
---|
樊儒昆;傅晶;程司雷;张翔;耿卫东;: "动作与音乐的节奏特征匹配模型", no. 06 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113362864A (zh) * | 2021-06-16 | 2021-09-07 | 北京字节跳动网络技术有限公司 | 音频信号处理的方法、装置、存储介质及电子设备 |
CN113362864B (zh) * | 2021-06-16 | 2022-08-02 | 北京字节跳动网络技术有限公司 | 音频信号处理的方法、装置、存储介质及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
CN111444384B (zh) | 2023-10-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110765354B (zh) | 信息的推送方法、装置、电子设备及存储介质 | |
CN110636459B (zh) | 一种消息提醒方法、装置、电子设备及存储介质 | |
CN111597825B (zh) | 语音翻译方法、装置、可读介质及电子设备 | |
CN113313064A (zh) | 字符识别方法、装置、可读介质及电子设备 | |
US11882244B2 (en) | Video special effects processing method and apparatus | |
CN111309962A (zh) | 提取音频片段的方法、装置以及电子设备 | |
CN111667810B (zh) | 多音字语料的获取方法、装置、可读介质和电子设备 | |
CN111883117A (zh) | 语音唤醒方法及装置 | |
CN111432141A (zh) | 一种混剪视频确定方法、装置、设备及存储介质 | |
CN111461967A (zh) | 图片处理方法、装置、设备和计算机可读介质 | |
CN112380883B (zh) | 模型训练方法、机器翻译方法、装置、设备及存储介质 | |
CN111444384A (zh) | 一种音频关键点确定方法、装置、设备及存储介质 | |
CN112907628A (zh) | 视频目标追踪方法、装置、存储介质及电子设备 | |
CN115631514B (zh) | 基于掌静脉指纹的用户识别方法、装置、设备与介质 | |
CN116072108A (zh) | 模型生成方法、语音识别方法、装置、介质及设备 | |
CN113488050B (zh) | 语音唤醒方法、装置、存储介质及电子设备 | |
CN112946576B (zh) | 声源定位方法、装置和电子设备 | |
CN113033552B (zh) | 文本识别方法、装置和电子设备 | |
CN112418233A (zh) | 图像处理方法、装置、可读介质及电子设备 | |
CN110209851B (zh) | 模型训练方法、装置、电子设备及存储介质 | |
CN110334763B (zh) | 模型数据文件生成、图像识别方法、装置、设备及介质 | |
CN112669816A (zh) | 模型的训练方法、语音识别方法、装置、介质及设备 | |
CN113033680A (zh) | 视频分类方法、装置、可读介质及电子设备 | |
CN113435528B (zh) | 对象分类的方法、装置、可读介质和电子设备 | |
CN113327611B (zh) | 语音唤醒方法、装置、存储介质及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |