CN113488083B - 数据匹配方法、装置、介质及电子设备 - Google Patents

Abstract

本公开涉及一种数据匹配方法、装置、介质及电子设备。方法包括：获取第一多媒体数据的第一特征序列和第二多媒体数据的第二特征序列；若两个序列长度不相等，则根据该两个序列，确定帧匹配距离矩阵；根据帧匹配距离矩阵中的元素，确定匹配路径的起点和终点；根据起点、终点及帧匹配距离矩阵，确定最佳匹配路径；基于最佳匹配路径，将第一多媒体数据与第二多媒体数据进行匹配。这样，可实现第一多媒体数据和第二多媒体数据的自动匹配，并保证最佳匹配路径的准确度，提升第一多媒体数据和第二多媒体数据的匹配度。由此，本公开提供的数据匹配方法，可将视频画面特征和音频节奏特征有效结合，提高用户的观看沉浸感，有身临其境的感受。

Description

数据匹配方法、装置、介质及电子设备

技术领域

本公开涉及多媒体数据处理领域，具体地，涉及一种数据匹配方法、装置、介质及电子设备。

背景技术

在播放视频时，当视频中的画面特征和音乐特征有效结合的时候，观看视频的用户会感受到视频中的氛围，有身临其境的感受。用户在给视频设置背景音乐的时候，往往直接选取一段音频设置为视频的背景音乐，或者是给音频选取视频画面时，也通常是直接选取一段视频设置为音频的视频画面，这样，编辑得到的视频中的画面特征和音乐的节奏点不能有效结合，导致用户观看效果差。

发明内容

提供该发明内容部分以便以简要的形式介绍构思，这些构思将在后面的具体实施方式部分被详细描述。该发明内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征，也不旨在用于限制所要求的保护的技术方案的范围。

第一方面，本公开提供一种数据匹配方法，包括：

获取第一多媒体数据的第一特征序列和第二多媒体数据的第二特征序列；

若所述第一特征序列的长度与所述第二特征序列的长度不相等，则根据所述第一特征序列和所述第二特征序列，确定帧匹配距离矩阵；

根据所述帧匹配距离矩阵中的元素，确定匹配路径的起点和终点；

根据所述起点、所述终点以及所述帧匹配距离矩阵，确定所述第一特征序列和所述第二特征序列的最佳匹配路径；

基于所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行匹配。

第二方面，本公开提供一种数据匹配装置，包括：

获取模块，用于获取第一多媒体数据的第一特征序列和第二多媒体数据的第二特征序列，其中，所述第一多媒体数据和所述第二多媒体数据为音频数据或视频数据，所述第一特征序列的长度与所述第二特征序列的长度不相等；

第一确定模块，用于若所述获取模块获取到的所述第一特征序列的长度与所述第二特征序列的长度不相等，则根据所述第一特征序列和所述第二特征序列，确定帧匹配距离矩阵；

第二确定模块，用于根据所述第一确定模块确定出的所述帧匹配距离矩阵中的元素，确定匹配路径的起点和终点；

第三确定模块，用于根据所述第二确定模块确定出的所述起点、所述终点以及所述第一确定模块确定出的所述帧匹配距离矩阵，确定所述第一特征序列和所述第二特征序列的最佳匹配路径；

匹配模块，用于基于所述第三确定模块确定出的所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行匹配。

第三方面，本公开提供一种计算机可读介质，其上存储有计算机程序，该程序被处理装置执行时实现本公开第一方面提供的所述方法的步骤。

第四方面，本公开提供一种电子设备，包括：

存储装置，其上存储有计算机程序；

处理装置，用于执行所述存储装置中的所述计算机程序，以实现本公开第一方面提供的所述方法的步骤。

在上述技术方案中，首先，获取第一多媒体数据的第一特征序列和第二多媒体数据的第二特征序列；若第一特征序列的长度与第二特征序列的长度不相等，则根据第一特征序列和第二特征序列，确定帧匹配距离矩阵；之后，根据帧匹配距离矩阵中的元素，确定匹配路径的起点和终点；接下来，根据起点、终点以及帧匹配距离矩阵，确定第一特征序列和所述第二特征序列的最佳匹配路径；最后，基于最佳匹配路径，将第一多媒体数据与第二多媒体数据进行匹配。这样，可以实现第一多媒体数据和第二多媒体数据的自动匹配，并且，匹配路径的起点和终点是基于帧匹配距离矩阵中的元素确定的，可以保证最佳匹配路径的准确度，从而提升第一多媒体数据和第二多媒体数据的匹配度。由此，本公开提供的数据匹配方法，可以将视频中的画面特征和音频中的音乐节奏特征有效结合，画面内容与音乐节奏同步卡点变换，使用户可以随着音频节奏的变化感受到视频内容的变化推进，提高用户的观看沉浸感，有身临其境的感受。

本公开的其他特征和优点将在随后的具体实施方式部分予以详细说明。

附图说明

结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，原件和元素不一定按照比例绘制。在附图中：

图1是根据一示例性实施例示出的一种数据匹配方法的流程图。

图2是根据一示例性实施例示出的一种最优匹配路径的示意图。

图3是根据另一示例性实施例示出的一种数据匹配方法的流程图。

图4是根据另一示例性实施例示出的一种数据匹配方法的流程图。

图5是根据一示例性实施例示出的一种数据匹配装置的框图。

图6是根据一示例性实施例示出的一种电子设备的框图。

具体实施方式

下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。

应当理解，本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。

本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。

需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。

需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。

本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。

图1是根据一示例性实施例示出的一种数据匹配方法的流程图。如图1所示，该方法包括S101～S105。

在S101中，获取第一多媒体数据的第一特征序列和第二多媒体数据的第二特征序列。

在本公开中，第一多媒体数据可以为音频数据，也可以为视频数据，第二多媒体数据可以为音频数据，也可以为视频数据。并且，第一多媒体数据和第二多媒体数据可以为相同类型的数据(例如，第一多媒体数据和第二多媒体数据均为视频数据，或者，第一多媒体数据和第二多媒体数据均为音频数据)，也可以为不同类型的数据(例如，第一多媒体数据为音频数据，第二多媒体数据为视频数据；或者，第一多媒体数据为视频数据，第二多媒体数据为音频数据)。

在S102中，若第一特征序列的长度与第二特征序列的长度不相等，则根据第一特征序列和第二特征序列，确定帧匹配距离矩阵。

在本公开中，若第一特征序列的长度与第二特征序列的长度相等，则可以基于动态时间规整算法，计算第一特征序列和第二特征序列的最佳匹配路径，之后，基于该最佳匹配路径，将第一多媒体数据和第二多媒体数据进行匹配。具体来说，可以基于动态时间规整算法，通过以下方式来计算第一特征序列和第二特征序列的最佳匹配路径：首先，根据第一特征序列和第二特征序列，确定帧匹配距离矩阵；然后，以帧匹配距离矩阵的第1行第1列为匹配路径的起点、以帧匹配距离矩阵的第m行第n列为匹配路径的终点，并基于帧匹配距离矩阵，确定第一特征序列和第二特征序列的最佳匹配路径，其中，帧匹配距离矩阵为m*n矩阵。

而若第一特征序列的长度与第二特征序列的长度不相等，则执行S102～S105。

其中，可以通过计算第一特征序列的每一帧与第二特征序列的每一帧的距离(例如，欧式距离、马氏距离等)，来得到帧匹配距离矩阵。

在S103中，根据帧匹配距离矩阵中的元素，确定匹配路径的起点和终点。

在S104中，根据起点、终点以及帧匹配距离矩阵，确定第一特征序列和第二特征序列的最佳匹配路径。

在本公开中，可以以上述S103确定出的起点为匹配路径的起点，以上述S103确定出的终点为匹配路径的中的，采用动态规划算法从帧匹配距离矩阵中确定出最佳匹配路径。

在S105中，基于最佳匹配路径，将第一多媒体数据与第二多媒体数据进行匹配。

在上述技术方案中，首先，获取第一多媒体数据的第一特征序列和第二多媒体数据的第二特征序列；若第一特征序列的长度与第二特征序列的长度不相等，则根据第一特征序列和第二特征序列，确定帧匹配距离矩阵；之后，根据帧匹配距离矩阵中的元素，确定匹配路径的起点和终点；接下来，根据起点、终点以及帧匹配距离矩阵，确定第一特征序列和所述第二特征序列的最佳匹配路径；最后，基于最佳匹配路径，将第一多媒体数据与第二多媒体数据进行匹配。这样，可以实现第一多媒体数据和第二多媒体数据的自动匹配，并且，匹配路径的起点和终点是基于帧匹配距离矩阵中的元素确定的，可以保证最佳匹配路径的准确度，从而提升第一多媒体数据和第二多媒体数据的匹配度。由此，本公开提供的数据匹配方法，可以将视频中的画面特征和音频中的音乐节奏特征有效结合，画面内容与音乐节奏同步卡点变换，使用户可以随着音频节奏的变化感受到视频内容的变化推进，提高用户的观看沉浸感，有身临其境的感受。

下面针对上述S101中的获取第一多媒体数据的第一特征序列的具体实施方式进行详细说明，其中，第一多媒体数据为视频数据。具体来说，可以先通过以下步骤(1)和步骤(2)来实现：

(1)获取第一多媒体数据中每一图像帧的图像特征。

在本公开中，图像特征可以包括颜色特征、纹理特征、形状特征、空间关系特征等。其中，颜色特征，描述了图像或图像区域所对应的景物的表面性质，是基于像素点的特征；纹理特征，描述了图像或图像区域所对应景物的表面性质，其需要在包含多个像素点的区域中进行统计计算；形状特征，则描述物体外边界的轮廓特征，以及整体上的区域特征；空间关系特征，是图像中分割出来的多个目标之间的相互的空间位置或相对方向关系，例如，连接关系、重叠关系以及包含关系等。

示例地，可以利用卷积神经网络提取第一多媒体数据中每一图像帧的图像特征。

(2)根据每一图像特征，确定第一多媒体数据的图像变化特征，作为第一特征序列。

在本公开中，图像变化特征是指第一多媒体数据在视频内容上的图像变化情况，例如，颜色变化、纹理变化、形状变化、空间关系变化等。

具体来说，可以通过以下方式来确定第一多媒体数据的图像变化特征：根据每一图像帧的图像特征，获取第一多媒体数据的多个图像差分特征值，作为第一多媒体数据的图像变化特征。其中，图像差分特征值是将各图像帧的图像特征之间进行差值运算后获取的结果，表征了不同图像帧之间的图像特征差异性，该差异性也反映了图像内容的变化情况，由于连续的多帧图像(例如，20帧)通常表征了相同的视频内容，因此，在公开实施例中，预设间隔为较大值(例如，设定间隔大于等于10帧)，以获取间隔为预设间隔的两帧图像之间的差分特征值，例如，第11帧与第l帧之间的差分特征值，以及第12帧与第2帧之间的差分特征值。

示例地，可以通过以下等式(1)来确定第一多媒体数据的多个差分特征值：

g(s)＝norm(f(s+t)-f(s)) (1)

其中，s是各图像帧的索引号，且s＝1,2,…,P，P为第一多媒体数据包含的图像帧的数量；t为预设间隔；f(s)为第s个图像帧的图像特征；f(s+t)为第s+t个图像帧的图像特征；g(s)为第一多媒体数据的第s个差分特征值；norm为2范式运算；特别的，根据上述等式(1)，可以获取到第一多媒体数据的P－t个差分特征值，之后，在该P－t个差分特征值后，补充t个差分特征值，该t个差分特征值均等于第P－t个差分特征值，由此获取到描述该第一多媒体数据的图像变化特征的P个差分特征值，作为第一特征序列，其中，第一特征序列描述了第一多媒体数据的图像变化特征。

下面针对上述S101中的获取第二多媒体数据的第二特征序列的具体实施方式进行详细说明，其中，第二多媒体数据为音频数据。具体来说，可以通过以下步骤[1]和步骤[2]来实现：

[1]获取第二多媒体数据的音频特征。

在本公开中，音频是带有语音、音乐和/或音效，且有规律性的声波信息，音频特征可以通过声波的参数，例如，频率、幅度和相位等信息表示，音频特征的不断变化，反映了音频在节奏上的变化过程，例如，频率曲线先低后高再降低，表示了该音频在节奏上先平缓后加快再平缓的节奏变化过程。

其中，上述音频特征可以例如是梅尔频率倒谱系数(Mel Frequency CepstrumCoefficient，MFCC)、线性预测倒谱系数(Linear Predictive Cepstral Coefficients，LPCC)、频谱图等。本公开实施例对获取的音频特征不作具体限定。

其中，MFCC是在Mel标度频率域提取出来的倒谱参数，是音频信号的能量在不同频率范围的分布；其中，Mel标度描述了人耳频率的非线性特性；MFCC描述了较短时间窗口内，音频频率的变化幅度；通常，将音频的原始波形(即振幅波形)作为音频特征，而振幅波形描述了语音的振动位移，反映了音频的响度信息，但相比于响度，人耳对于频率更为敏感，更能反映用户在听觉上的真实感受，因此，频率变化更能反映人耳感知音频的节奏变化；因此，优选地，将MFCC作为音频特征，以真实反映音频频率的变化程度。

[2]根据音频特征，确定第二多媒体数据的节奏变化特征，作为第二特征序列。

在本公开中，节奏变化特征(例如，频率变化特征)反映了音频节奏的变化程度。具体来说，可以通过以下来确定第二多媒体数据的节奏变化特征：首先，将第二多媒体数据的每一采样帧的音频特征分别进行一阶求导及二范式运算后，可以获取与各个采样帧对应的音频序列特征值，各音频序列特征值构成第二特征序列，第二特征序列反映了第二多媒体数据的节奏变化。

另外，在上述步骤[1]之前，上述获取第二多媒体数据的第二特征序列的步骤，还包括以下步骤[3]。

[3]根据第一多媒体数据的帧率，对第二多媒体数据进行分帧，以使得第二多媒体数据的音频帧与第一多媒体数据的图像帧对齐匹配。

此时，上述步骤[1]可以获取分帧后所得的第二多媒体数据的音频特征。

视频是由多个图像帧组成，视频的帧率(Frame rate)是测量显示帧数的量度，反映了以帧为单位的位图图像连续出现的频率，单位为赫兹(Hz)，例如，第一多媒体数据的帧率为60Hz，也即每秒显示60个图像帧；由于第二多媒体数据是连续的声波信号，因此，需要将其进行分帧处理，以将其在时间序列上分为多个音频帧，并使每个音频帧与第一多媒体数据的各图像帧进行对齐，便于进行图像特征与音频特征的比对和匹配。例如，第一多媒体数据的帧率为60Hz，为了使第二多媒体数据的音频帧与第一多媒体数据的图像帧对齐，第二多媒体数据的帧率也为60Hz，即约每0.016秒的音频片段作为一个音频帧。

以上述音频特征为MFCC为例，通过设置MFCC的滑动窗口步长可以获取指定的帧率，音频的帧率等于采样频率除以MFCC的滑动窗口步长，其中，采样频率是音频的固有属性，描述了单位时间内，对于声音信号的采样次数，单位是赫兹(Hz)，采样频率越高，声音越自然、越清晰，因此，在已知采样频率和指定帧率(即第一多媒体数据的帧率)的前提下，通过设置MFCC的滑动窗口步长，可以使第二多媒体数据与第二多媒体数据的帧率一致，例如，第一多媒体数据的帧率为60Hz，第二多媒体数据的采样频率为22050Hz，由此，可以获取MFCC中的滑动窗口的步长为22050/60＝368，因此，通过设置MFCC的滑动窗口步长为368，可以使第二多媒体数据的帧率为60，确保第二多媒体数据与第一多媒体数据的帧对齐。每个音频帧的MFCC都是基于频谱倒谱的低频分量(即频谱的包络)和高频分量(即频谱的细节)进行编码运算后得到的一组特征向量，将第二多媒体数据中的各个特征向量分别进行一阶求导及二范式运算后，可以获取与各个特征向量对应的音频序列特征值，各音频序列特征值构成第二特征序列，第二特征序列反映了第二多媒体数据的节奏变化。

下面针对上述S103中的根据帧匹配距离矩阵中的元素，确定匹配路径的起点和终点的具体实施方式进行详细说明。

在一种实施方式中，上述S102确定出的帧匹配距离矩阵为m*n矩阵，其中，n为第一特征序列的长度和第二特征序列的长度中的较大者，m为第一特征序列的长度和第二特征序列的长度中的较小者，可以将帧匹配距离矩阵第1行中第1列、第1行第2列、……、第1行第n-m列中的任一者确定为匹配路径的起点，并基于该起点，确定匹配路径的终点。示例地，匹配路径的起点为帧匹配距离矩阵的第1行第l列，则匹配路径的终点为帧匹配距离矩阵的第m行第l+m-1列，其中，1≤l≤n-m。

在另一种实施方式中，首先，确定使得

最小的k值，作为目标值k1；然后，将帧匹距离矩阵的第1行、第1+(k1－1)d列确定为匹配路径的起点，并将帧匹配距离矩阵的第m行、第m+(k1－1)d列确定为匹配路径的终点。

其中，上述S102确定出的帧匹配距离矩阵为m*n矩阵，其中，n为第一特征序列的长度和第二特征序列的长度中的较大者，m为第一特征序列的长度和第二特征序列的长度中的较小者，a_i,i+(k-1)d为帧匹配距离矩阵的第i行第i+(k－1)d列的元素，d为预设步长，k＝1,2,…,j，q、j均为常数，且2≤q≤m、

示例地，q＝3，d＝1，j＝6，则分别计算

若它们中的最小值为

该最小值

对应的k等于5，即目标值k1＝5；因此，将帧匹距离矩阵的第1行、第5列确定为匹配路径的起点，并将帧匹配距离矩阵的第m行、第m+4列确定为匹配路径的终点。

在上述实施方式中，将累积和最小的值对应的k确定为目标值k1，并基于该目标值k1确定匹配路径的起点和终点，可以进一步提升最佳匹配路径的准确度，以进一步提升第一多媒体数据和第二多媒体数据的匹配度。

下面针对上述S105中的基于最佳匹配路径，将第一多媒体数据与第二多媒体数据进行匹配的具体实施方式进行详细说明。

在一种实施方式中，上述S105可以基于最佳匹配路径，将第一多媒体数据与第二多媒体数据进行相似度匹配。具体来说，可以计算沿着该最佳匹配路径的累积距离，并将该累积距离作为第一多媒体数据与第二多媒体数据之间的相似度。

在另一种实施方式中，第一多媒体数据和第二多媒体数据属于不同类型的数据，上述S105可以基于最佳匹配路径，将第一多媒体数据与第二多媒体数据进行匹配合成，得到合成多媒体数据。

示例地，第一多媒体数据为视频数据，第二多媒体数据为音频数据，此时，上述多媒体匹配方法可以用于为待配乐视频数据匹配目标音频数据中的合适片段，也可以用于为待配图音频数据匹配目标视频数据中的合适片段，以得到合成多媒体数据。

具体来说，可以基于最佳匹配路径，通过以下方式来将第一多媒体数据与第二多媒体数据进行匹配合成，以得到合成多媒体数据：

若最佳匹配路径中存在位于同一行的多个路径点，则将列匹配多媒体数据中、与位于同一行的多个路径点所在列对应的片段进行U倍压缩，其中，U为位于同一行的路径点的数量，帧匹配距离矩阵的列与第一多媒体数据、第二多媒体数据中的一者对应，列匹配多媒体数据为与帧匹配距离矩阵的列对应的多媒体数据；若最佳匹配路径中存在位于同一列的多个路径点，则将行匹配多媒体数据中、与位于同一列的多个路径点所在行对应的片段进行V倍压缩，其中，V为位于同一列的路径点的数量，帧匹配距离矩阵的行与第一多媒体数据、第二多媒体数据中的另一者对应，行匹配多媒体数据为与帧匹配距离矩阵的行对应的多媒体数据；将当前的列匹配多媒体数据和当前的行匹配多媒体数据进行匹配合成，得到合成多媒体数据。

具体来说，主要包括以下四种情形：

①若最佳匹配路径中同时存在位于同一行的多个路径点和位于同一列的多个路径点，则对列匹配多媒体数据和行匹配多媒体数据均进行压缩，这样，当前的列匹配多媒体数据为压缩后所得的列匹配多媒体数据，当前的行匹配多媒体数据为压缩后所得的行匹配多媒体数据，之后，将压缩后所得的列匹配多媒体数据和压缩后所得的行匹配多媒体数据进行匹配合成，得到合成多媒体数据。

②若最佳匹配路径中存在位于同一行的多个路径点、但不存在位于同一列的多个路径点，则对列匹配多媒体数据进行压缩，不对行匹配多媒体数据进行压缩，这样，当前的列匹配多媒体数据为压缩后所得的列匹配多媒体数据，当前的行匹配多媒体数据为原有的行匹配多媒体数据，之后，将压缩后所得的列匹配多媒体数据和原有的行匹配多媒体数据进行匹配合成，得到合成多媒体数据。

③若最佳匹配路径中存在位于同一列的多个路径点、但不存在位于同一行的多个路径点，则不对列匹配多媒体数据进行压缩，对行匹配多媒体数据进行压缩，这样，当前的列匹配多媒体数据为原有的列匹配多媒体数据，当前的行匹配多媒体数据为压缩后所得的行匹配多媒体数据，之后，将原有的列匹配多媒体数据和压缩后所得的行匹配多媒体数据进行匹配合成，得到合成多媒体数据。

④若最佳匹配路径中不存在位于同一列的多个路径点、且不存在位于同一行的多个路径点，则不对列匹配多媒体数据进行压缩，也不对行匹配多媒体数据进行压缩，这样，当前的列匹配多媒体数据为原有的列匹配多媒体数据，当前的行匹配多媒体数据为原有的行匹配多媒体数据，之后，将原有的列匹配多媒体数据和原有的行匹配多媒体数据进行匹配合成，即直接将第一多媒体数据和第二多媒体数据进行匹配合成，得到合成多媒体数据。

示例地，帧匹配距离矩阵的行对应第一多媒体数据，帧匹配距离矩阵的列对应第二多媒体数据，并且，第一多媒体数据为音频数据，第二多媒体数据为视频数据，即列匹配多媒体数据为第二多媒体数据(即视频数据)，行匹配多媒体数据为第一多媒体数据(即音频数据)。如图2所示，最佳匹配路径中存在位于同一行的多个路径点，即位于第5行的三个路径点，即U＝3，并且，该三个路径点分别位于帧匹配距离矩阵的第8列、第9列、第10列，则将列匹配多媒体数据(即第二多媒体数据，也就是视频数据)中、与帧匹配距离矩阵的第8列、第9列、第10列对应的视频片段进行3倍压缩。同时，如图2所示，最佳匹配路径中存在位于同一列的多个路径点，即位于第6列的两个路径点和位于第11列的四个路径点。针对位于第6列的两个路径点，V＝2，并且，该两个路径点分别位于帧匹配距离矩阵的第2行、第3行，则将行匹配多媒体数据(即第一多媒体数据，也就是音频数据)中、与帧匹配距离矩阵的第2行、第3行对应的音频片段进行2倍压缩；针对位于第11列的四个路径点，V＝4，并且，该四个路径点分别位于帧匹配距离矩阵的第6行、第7行、第8行，则将行匹配多媒体数据(即第一多媒体数据，也就是音频数据)中、与帧匹配距离矩阵的第6行、第7行、第8行对应的音频片段进行4倍压缩。之后，可以将压缩后所得的列匹配多媒体数据和压缩后所得的行匹配多媒体数据进行匹配合成，得到合成多媒体数据。

另外，在第一多媒体数据和第二多媒体数据属于同类型的数据时，上述数据匹配方法还可以用于身份认证，进而根据身份认证结果，进行智能终端、门锁(车门锁、房门锁、柜门锁)等的解锁控制，具体来说，可以基于第一多媒体数据和第二多媒体数据的相似度匹配的结果，进行相应的控制操作，即如图3所示，上述方法还包括S106。

在S106中，基于相似度匹配的结果，执行相应的控制操作。

具体来说，若第一多媒体数据与第二多媒体数据的相似度大于预设相似度阈值，则身份认证成功，进行解锁操作；若第一多媒体数据与第二多媒体数据的相似度小于或等于预设相似度阈值，则身份认证失败，不执行解锁操作。

另外，在第一多媒体数据和第二多媒体数据属于不同类型的数据时，上述数据匹配方法可以用于为待配乐视频数据匹配目标音频数据中的合适片段，也可以用于为待配图音频数据匹配目标视频数据中的合适片段，具体来说，如图4所示，上述方法还包括S107。

在S107中，若第一多媒体数据与第二多媒体数据的相似度大于预设相似度阈值，则基于最佳匹配路径，将第一多媒体数据与第二多媒体数据进行匹配合成，得到合成多媒体数据。

在本公开中，若第一多媒体数据与第二多媒体数据的相似度大于预设相似度阈值，则表明第一多媒体数据和第二多媒体数据相匹配，此时，可以基于最佳匹配路径，将第一多媒体数据与第二多媒体数据进行匹配合成，以得到合成多媒体数据；若第一多媒体数据与第二多媒体数据的相似度小于或等于预设相似度阈值，则表明第一多媒体数据和第二多媒体数据不匹配，此时，不对第一多媒体数据与第二多媒体数据进行匹配合成，这样，可以避免匹配合成得到的多媒体数据(即视频)中的画面与音频不匹配的问题。

需要说明的是，上述数据匹配方法除了用于上述提到的应用场景外，也可以用于从音频库中选择与待配乐视频数据相似度最高的目标音频视据，并为该待配乐视频数据匹配目标视频数据中的合适片段，还可以用于从视频库中选择与待配图音频数据相似度最高的目标视频数据，并为该待配图音频数据匹配目标视频数据中的合适片段。

基于相同的发明构思，本公开还提供一种数据匹配装置。如图5所示，该装置500包括：获取模块501，用于获取第一多媒体数据的第一特征序列和第二多媒体数据的第二特征序列，其中，所述第一多媒体数据和所述第二多媒体数据为音频数据或视频数据，所述第一特征序列的长度与所述第二特征序列的长度不相等；第一确定模块502，用于若所述获取模块501获取到的所述第一特征序列的长度与所述第二特征序列的长度不相等，则根据所述第一特征序列和所述第二特征序列，确定帧匹配距离矩阵；第二确定模块503，用于根据所述第一确定模块502确定出的所述帧匹配距离矩阵中的元素，确定匹配路径的起点和终点；第三确定模块504，用于根据所述第二确定模块503确定出的所述起点、所述终点以及所述第一确定模块502确定出的所述帧匹配距离矩阵，确定所述第一特征序列和所述第二特征序列的最佳匹配路径；匹配模块505，用于基于所述第三确定模块504确定出的所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行匹配。

在上述技术方案中，首先，获取第一多媒体数据的第一特征序列和第二多媒体数据的第二特征序列；若第一特征序列的长度与第二特征序列的长度不相等，则根据第一特征序列和第二特征序列，确定帧匹配距离矩阵；之后，根据帧匹配距离矩阵中的元素，确定匹配路径的起点和终点；接下来，根据起点、终点以及帧匹配距离矩阵，确定第一特征序列和所述第二特征序列的最佳匹配路径；最后，基于最佳匹配路径，将第一多媒体数据与第二多媒体数据进行匹配。这样，可以实现第一多媒体数据和第二多媒体数据的自动匹配，并且，匹配路径的起点和终点是基于帧匹配距离矩阵中的元素确定的，可以保证最佳匹配路径的准确度，从而提升第一多媒体数据和第二多媒体数据的匹配度。由此，本公开提供的数据匹配装置，可以将视频中的画面特征和音频中的音乐节奏特征有效结合，画面内容与音乐节奏同步卡点变换，使用户可以随着音频节奏的变化感受到视频内容的变化推进，提高用户的观看沉浸感，有身临其境的感受。

可选地，所述帧匹配距离矩阵为m*n矩阵，其中，n为所述第一特征序列的长度和所述第二特征序列的长度中的较大者，m为所述第一特征序列的长度和所述第二特征序列的长度中的较小者；所述第二确定模块503用于将所述帧匹配距离矩阵第1行中第1列、第1行第2列、……、第1行第n-m列中的任一者确定为匹配路径的起点，并基于该起点，确定匹配路径的终点。

可选地，所述帧匹配距离矩阵为m*n矩阵，其中，n为所述第一特征序列的长度和所述第二特征序列的长度中的较大者，m为所述第一特征序列的长度和所述第二特征序列的长度中的较小者；所述第二确定模块503包括：第一确定子模块，用于确定使得

最小的k值，作为目标值k1，其中，a_i,i+(k-1)d为所述帧匹配距离矩阵的第i行第i+(k－1)d列的元素，d为预设步长，k＝1,2,…,j，q、j均为常数，且2≤q≤m、

第二确定子模块，用于将所述帧匹距离矩阵的第1行、第1+(k1－1)d列确定为匹配路径的起点，并将所述帧匹配距离矩阵的第m行、第m+(k1－1)d列确定为匹配路径的终点。在该种实施方式中，将累积和最小的值对应的k确定为目标值k1，并基于该目标值k1确定匹配路径的起点和终点，可以进一步提升最佳匹配路径的准确度，以进一步提升第一多媒体数据和第二多媒体数据的匹配度。

可选地，所述匹配模块505用于基于所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行相似度匹配。

可选地，在所述第一多媒体数据和所述第二多媒体数据属于不同类型的数据时，所述装置500还包括：匹配合成模块，用于若所述第一多媒体数据与所述第二多媒体数据的相似度大于预设相似度阈值，则基于所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行匹配合成，得到合成多媒体数据。

可选地，所述第一多媒体数据和所述第二多媒体数据属于不同类型的数据；所述匹配模块505用于基于所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行匹配合成，得到合成多媒体数据。

可选地，所述匹配模块505包括：

第一压缩子模块，用于若所述最佳匹配路径中存在位于同一行的多个路径点，则将列匹配多媒体数据中、与所述位于同一行的多个路径点所在列对应的片段进行U倍压缩，其中，U为位于同一行的路径点的数量，所述帧匹配距离矩阵的列与所述第一多媒体数据、所述第二多媒体数据中的一者对应，所述列匹配多媒体数据为与所述帧匹配距离矩阵的列对应的多媒体数据；

第二压缩子模块，用于若所述最佳匹配路径中存在位于同一列的多个路径点，则将第二多媒体数据和所述第二多媒体数据中、与所述位于同一列的多个路径点所在行对应的片段进行V倍压缩，其中，V为位于同一列的路径点的数量，所述帧匹配距离矩阵的行与所述第一多媒体数据、所述第二多媒体数据中的另一者对应，所述行匹配多媒体数据为与所述帧匹配距离矩阵的行对应的多媒体数据；

匹配合成子模块，用于将当前的列匹配矩阵和当前的行匹配矩阵进行匹配合成，得到合成多媒体数据。

可选地，所述第一多媒体数据为视频数据，所述第二多媒体数据为音频数据；

所述获取模块501包括：第一获取子模块，用于获取第一多媒体数据中每一图像帧的图像特征；第三确定子模块，用于根据每一所述图像特征，确定所述第一多媒体数据的图像变化特征，作为第一特征序列；

所述获取模块501还包括：第二获取子模块，用于获取第二多媒体数据的音频特征；第四确定子模块，用于根据所述音频特征，确定所述第二多媒体数据的节奏变化特征，作为第二特征序列。

可选地，所述获取模块501还包括：分帧子模块，用于在所述第二获取子模块获取第二多媒体数据的音频特征之前，根据所述第一多媒体数据的帧率，对所述第二多媒体数据进行分帧，以使得所述第二多媒体数据的音频帧与所述第一多媒体数据的图像帧对齐匹配；

所述第二获取子模块用于获取分帧后所得的第二多媒体数据的音频特征。

下面参考图6，其示出了适于用来实现本公开实施例的电子设备(终端设备或服务器)600的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图6示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图6所示，电子设备600可以包括处理装置(例如中央处理器、图形处理器等)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储装置608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中，还存储有电子设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。

通常，以下装置可以连接至I/O接口605：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置607；包括例如磁带、硬盘等的存储装置608；以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在非暂态计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置609从网络上被下载和安装，或者从存储装置608被安装，或者从ROM 602被安装。在该计算机程序被处理装置601执行时，执行本公开实施例的方法中限定的上述功能。

需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。

在一些实施方式中，客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol，超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“LAN”)，广域网(“WAN”)，网际网(例如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已知或未来研发的网络。

上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。

上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：获取第一多媒体数据的第一特征序列和第二多媒体数据的第二特征序列；若所述第一特征序列的长度与所述第二特征序列的长度不相等，则根据所述第一特征序列和所述第二特征序列，确定帧匹配距离矩阵；根据所述帧匹配距离矩阵中的元素，确定匹配路径的起点和终点；根据所述起点、所述终点以及所述帧匹配距离矩阵，确定所述第一特征序列和所述第二特征序列的最佳匹配路径；基于所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行匹配。

可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言——诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，模块的名称在某种情况下并不构成对该模块本身的限定，例如，获取模块还可以被描述为“获取第一多媒体数据的第一特征序列和第二多媒体数据的第二特征序列的模块”。

本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

根据本公开的一个或多个实施例，示例1提供了一种数据匹配方法，包括：获取第一多媒体数据的第一特征序列和第二多媒体数据的第二特征序列；若所述第一特征序列的长度与所述第二特征序列的长度不相等，则根据所述第一特征序列和所述第二特征序列，确定帧匹配距离矩阵；根据所述帧匹配距离矩阵中的元素，确定匹配路径的起点和终点；根据所述起点、所述终点以及所述帧匹配距离矩阵，确定所述第一特征序列和所述第二特征序列的最佳匹配路径；基于所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行匹配。

根据本公开的一个或多个实施例，示例2提供了示例1的方法，所述帧匹配距离矩阵为m*n矩阵，其中，n为所述第一特征序列的长度和所述第二特征序列的长度中的较大者，m为所述第一特征序列的长度和所述第二特征序列的长度中的较小者；所述根据所述帧匹配距离矩阵中的元素，确定匹配路径的起点和终点，包括：确定使得

最小的k值，作为目标值k1，其中，a_i,i+(k-1)d为所述帧匹配距离矩阵的第i行第i+(k－1)d列的元素，d为预设步长，k＝1,2,…,j，q、j均为常数，且2≤q≤m、

将所述帧匹距离矩阵的第1行、第1+(k1－1)d列确定为匹配路径的起点，并将所述帧匹配距离矩阵的第m行、第m+(k1－1)d列确定为匹配路径的终点。

根据本公开的一个或多个实施例，示例3提供了示例1或2的方法，所述基于所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行匹配，包括：基于所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行相似度匹配。

根据本公开的一个或多个实施例，示例4提供了示例3的方法，在所述第一多媒体数据和所述第二多媒体数据属于不同类型的数据时，所述方法还包括：若所述第一多媒体数据与所述第二多媒体数据的相似度大于预设相似度阈值，则基于所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行匹配合成，得到合成多媒体数据。

根据本公开的一个或多个实施例，示例5提供了示例1的方法，所述第一多媒体数据和所述第二多媒体数据属于不同类型的数据；所述基于所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行匹配，包括：基于所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行匹配合成，得到合成多媒体数据。

根据本公开的一个或多个实施例，示例6提供了示例4或5的方法，所述基于所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行匹配合成，得到合成多媒体数据，包括：若所述最佳匹配路径中存在位于同一行的多个路径点，则将列匹配多媒体数据中、与所述位于同一行的多个路径点所在列对应的片段进行U倍压缩，其中，U为位于同一行的路径点的数量，所述帧匹配距离矩阵的列与所述第一多媒体数据、所述第二多媒体数据中的一者对应，所述列匹配多媒体数据为与所述帧匹配距离矩阵的列对应的多媒体数据；若所述最佳匹配路径中存在位于同一列的多个路径点，则将行匹配多媒体数据中、与所述位于同一列的多个路径点所在行对应的片段进行V倍压缩，其中，V为位于同一列的路径点的数量，所述帧匹配距离矩阵的行与所述第一多媒体数据、所述第二多媒体数据中的另一者对应，所述行匹配多媒体数据为与所述帧匹配距离矩阵的行对应的多媒体数据；将当前的列匹配矩阵和当前的行匹配矩阵进行匹配合成，得到合成多媒体数据。

根据本公开的一个或多个实施例，示例7提供了示例1或2的方法，所述第一多媒体数据为视频数据，所述第二多媒体数据为音频数据；所述获取第一多媒体数据的第一特征序列，包括：获取第一多媒体数据中每一图像帧的图像特征；根据每一所述图像特征，确定所述第一多媒体数据的图像变化特征，作为第一特征序列；所述获取第二多媒体数据的第二特征序列，包括：获取第二多媒体数据的音频特征；根据所述音频特征，确定所述第二多媒体数据的节奏变化特征，作为第二特征序列。

根据本公开的一个或多个实施例，示例8提供了示例7的方法，在所述获取第二多媒体数据的音频特征的步骤之前，所述获取第二多媒体数据的第二特征序列，还包括：根据所述第一多媒体数据的帧率，对所述第二多媒体数据进行分帧，以使得所述第二多媒体数据的音频帧与所述第一多媒体数据的图像帧对齐匹配；所述获取第二多媒体数据的音频特征，包括：获取分帧后所得的第二多媒体数据的音频特征。

根据本公开的一个或多个实施例，示例9提供了一种数据匹配装置，包括：获取模块，用于获取第一多媒体数据的第一特征序列和第二多媒体数据的第二特征序列，其中，所述第一多媒体数据和所述第二多媒体数据为音频数据或视频数据，所述第一特征序列的长度与所述第二特征序列的长度不相等；第一确定模块，用于若所述获取模块获取到的所述第一特征序列的长度与所述第二特征序列的长度不相等，则根据所述第一特征序列和所述第二特征序列，确定帧匹配距离矩阵；第二确定模块，用于根据所述第一确定模块确定出的所述帧匹配距离矩阵中的元素，确定匹配路径的起点和终点；第三确定模块，用于根据所述第二确定模块确定出的所述起点、所述终点以及所述第一确定模块确定出的所述帧匹配距离矩阵，确定所述第一特征序列和所述第二特征序列的最佳匹配路径；匹配模块，用于基于所述第三确定模块确定出的所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行匹配。

根据本公开的一个或多个实施例，示例10提供了一种计算机可读介质，其上存储有计算机程序，该程序被处理装置执行时实现示例1-8中任一项所述方法的步骤。

根据本公开的一个或多个实施例，示例11提供了一种电子设备，包括：存储装置，其上存储有计算机程序；处理装置，用于执行所述存储装置中的所述计算机程序，以实现示例1-8中任一项所述方法的步骤。

以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

此外，虽然采用特定次序描绘了各操作，但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。

尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。

Claims (10)

1.一种数据匹配方法，其特征在于，包括：

获取第一多媒体数据的第一特征序列和第二多媒体数据的第二特征序列；

若所述第一特征序列的长度与所述第二特征序列的长度不相等，则根据所述第一特征序列和所述第二特征序列，确定帧匹配距离矩阵，其中，所述帧匹配距离矩阵为m*n矩阵，n为所述第一特征序列的长度和所述第二特征序列的长度中的较大者，m为所述第一特征序列的长度和所述第二特征序列的长度中的较小者；

确定使得

最小的k值，作为目标值k1，其中，a_i,i+(k-1)d为所述帧匹配距离矩阵的第i行第i+(k－1)d列的元素，d为预设步长，k＝1,2,…,j，q、j均为常数，且2≤q≤m、

将所述帧匹配距离矩阵的第1行、第1+(k1－1)d列确定为匹配路径的起点，并将所述帧匹配距离矩阵的第m行、第m+(k1－1)d列确定为匹配路径的终点；

根据所述起点、所述终点以及所述帧匹配距离矩阵，确定所述第一特征序列和所述第二特征序列的最佳匹配路径；

基于所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行匹配。

2.根据权利要求1所述的方法，其特征在于，所述基于所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行匹配，包括：

基于所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行相似度匹配。

3.根据权利要求2所述的方法，其特征在于，在所述第一多媒体数据和所述第二多媒体数据属于不同类型的数据时，所述方法还包括：

若所述第一多媒体数据与所述第二多媒体数据的相似度大于预设相似度阈值，则基于所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行匹配合成，得到合成多媒体数据。

4.根据权利要求1所述的方法，其特征在于，所述第一多媒体数据和所述第二多媒体数据属于不同类型的数据；

所述基于所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行匹配，包括：

基于所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行匹配合成，得到合成多媒体数据。

5.根据权利要求3或4所述的方法，其特征在于，所述基于所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行匹配合成，得到合成多媒体数据，包括：

若所述最佳匹配路径中存在位于同一行的多个路径点，则将列匹配多媒体数据中、与所述位于同一行的多个路径点所在列对应的片段进行U倍压缩，其中，U为位于同一行的路径点的数量，所述帧匹配距离矩阵的列与所述第一多媒体数据、所述第二多媒体数据中的一者对应，所述列匹配多媒体数据为与所述帧匹配距离矩阵的列对应的多媒体数据；

若所述最佳匹配路径中存在位于同一列的多个路径点，则将行匹配多媒体数据中、与所述位于同一列的多个路径点所在行对应的片段进行V倍压缩，其中，V为位于同一列的路径点的数量，所述帧匹配距离矩阵的行与所述第一多媒体数据、所述第二多媒体数据中的另一者对应，所述行匹配多媒体数据为与所述帧匹配距离矩阵的行对应的多媒体数据；

将当前的列匹配矩阵和当前的行匹配矩阵进行匹配合成，得到合成多媒体数据。

6.根据权利要求1所述的方法，其特征在于，所述第一多媒体数据为视频数据，所述第二多媒体数据为音频数据；

所述获取第一多媒体数据的第一特征序列，包括：

获取第一多媒体数据中每一图像帧的图像特征；

根据每一所述图像特征，确定所述第一多媒体数据的图像变化特征，作为第一特征序列；

所述获取第二多媒体数据的第二特征序列，包括：

获取第二多媒体数据的音频特征；

根据所述音频特征，确定所述第二多媒体数据的节奏变化特征，作为第二特征序列。

7.根据权利要求6所述的方法，其特征在于，在所述获取第二多媒体数据的音频特征的步骤之前，所述获取第二多媒体数据的第二特征序列，还包括：

根据所述第一多媒体数据的帧率，对所述第二多媒体数据进行分帧，以使得所述第二多媒体数据的音频帧与所述第一多媒体数据的图像帧对齐匹配；

所述获取第二多媒体数据的音频特征，包括：

获取分帧后所得的第二多媒体数据的音频特征。

8.一种数据匹配装置，其特征在于，包括：

获取模块，用于获取第一多媒体数据的第一特征序列和第二多媒体数据的第二特征序列，其中，所述第一多媒体数据和所述第二多媒体数据为音频数据或视频数据，所述第一特征序列的长度与所述第二特征序列的长度不相等；

第一确定模块，用于若所述获取模块获取到的所述第一特征序列的长度与所述第二特征序列的长度不相等，则根据所述第一特征序列和所述第二特征序列，确定帧匹配距离矩阵，其中，所述帧匹配距离矩阵为m*n矩阵，n为所述第一特征序列的长度和所述第二特征序列的长度中的较大者，m为所述第一特征序列的长度和所述第二特征序列的长度中的较小者；

第二确定模块，用于根据所述第一确定模块确定出的所述帧匹配距离矩阵中的元素，确定匹配路径的起点和终点；

第三确定模块，用于根据所述第二确定模块确定出的所述起点、所述终点以及所述第一确定模块确定出的所述帧匹配距离矩阵，确定所述第一特征序列和所述第二特征序列的最佳匹配路径；

匹配模块，用于基于所述第三确定模块确定出的所述最佳匹配路径，将所述第一多媒体数据与所述第二多媒体数据进行匹配；

所述第二确定模块包括：

第一确定子模块，用于确定使得

最小的k值，作为目标值k1，其中，a_i,i+(k-1)d为所述帧匹配距离矩阵的第i行第i+(k－1)d列的元素，d为预设步长，k＝1,2,…,j，q、j均为常数，且2≤q≤m、

第二确定子模块，用于将所述帧匹配距离矩阵的第1行、第1+(k1－1)d列确定为匹配路径的起点，并将所述帧匹配距离矩阵的第m行、第m+(k1－1)d列确定为匹配路径的终点。

9.一种计算机可读介质，其上存储有计算机程序，其特征在于，该程序被处理装置执行时实现权利要求1-7中任一项所述方法的步骤。

10.一种电子设备，其特征在于，包括：

存储装置，其上存储有计算机程序；

处理装置，用于执行所述存储装置中的所述计算机程序，以实现权利要求1-7中任一项所述方法的步骤。

Images