CN111047049A - 基于机器学习模型处理多媒体数据的方法、装置及介质 - Google Patents

Abstract

本公开是关于一种基于机器学习模型处理多媒体数据的方法、装置及介质。所述方法包括：获取输入数据输入第一机器学习框架后的第一结果数据，机器学习模型应用于第一机器学习框架；获取第一结果数据与验证数据的相似度，验证数据与机器学习模型相关联，相似度包括下述中至少一种：向量距离相似度、像素精度相似度、信噪比相似度；当相似度大于设定阈值时，通过第一机器学习框架，对多媒体数据进行处理。采用本公开的方法和装置可以提高在该机器学习框架上应用机器学习模型处理多媒体数据的准确度和精度。

Description

基于机器学习模型处理多媒体数据的方法、装置及介质

技术领域

本公开涉及机器学习领域，尤其涉及基于机器学习模型处理多媒体数据的方法、装置及系统。

背景技术

在人工智能领域，随着机器学习模型的应用越来越广泛，也出现更多机器学习计算框架。机器学习模型的训练或预测通常是在服务器端进行的，而训练好或预测好的模型往往需要在不同于训练或预测服务器的设备上进行部署，即需要将训练好或预测好的机器学习模型移植到不同的机器学习框架上。

由于应用机器学习模型的机器学习框架并非训练该机器学习模型的机器学习框架，因此可能会使得采用该机器学习框架处理的数据准确度不够。这样，当通过该机器学习框架处理多媒体数据时，往往会出现较大误差，导致处理多媒体数据后的输出结果不可用。

发明内容

为克服相关技术中训练好或预测好的机器学习模型移植到不同的机器学习框架上存在的问题，本公开提供一种基于机器学习模型处理多媒体数据的方法、装置及系统。

根据本公开实施例的第一方面，提供一种机器学习模型的应用方法，所述方法包括：

获取输入数据输入第一机器学习框架后的第一结果数据，所述机器学习模型应用于所述第一机器学习框架；

获取所述第一结果数据与验证数据的相似度，所述验证数据与所述机器学习模型相关联，所述相似度包括下述中至少一种：向量距离相似度、像素精度相似度、信噪比相似度；

当所述相似度大于设定阈值时，通过所述第一机器学习框架，对多媒体数据进行处理。

其中，所述第一机器学习框架包括：图像分类机器学习框架、图像分割机器学习框架、目标检测机器学习框架、语音识别机器学习框架或机器翻译机器学习框架。

其中，当所述相似度包括向量距离相似度、像素精度相似度和信噪比相似度中至少两种时，所述相似度大于设定阈值包括：

所述至少两种相似度中每种相似度均大于对应的设定阈值。

其中，在所述获取所述第一结果数据与验证数据的相似度之前，所述方法还包括：

获取所述输入数据输入第二机器学习框架后的第二结果数据，将所述第二结果数据作为所述验证数据，其中，所述机器学习模型应用于所述第二机器学习框架，且所述第二机器学习框架为对所述机器学习模型进行训练或预测的机器学习框架。

根据本公开实施例的第二方面，提供一种基于机器学习模型处理多媒体数据的装置，所述装置包括：

结果数据获取模块，被设置为获取输入数据输入第一机器学习框架后的第一结果数据，所述机器学习模型应用于所述第一机器学习框架；

相似度获取模块，被设置为获取所述第一结果数据与验证数据的相似度，所述验证数据与所述机器学习模型相关联，所述相似度包括下述中至少一种：向量距离相似度、像素精度相似度、信噪比相似度；

数据处理模块，被设置为当所述相似度大于设定阈值时，通过所述第一机器学习框架，对多媒体数据进行处理。

其中，所述第一机器学习框架包括：图像分类机器学习框架、图像分割机器学习框架、目标检测机器学习框架、语音识别机器学习框架或机器翻译机器学习框架。

其中，所述数据处理模块还被设置为：

当所述相似度包括向量距离相似度、像素精度相似度和信噪比相似度中至少两种时，当所述至少两种相似度中每种相似度均大于对应的设定阈值时，通过所述第一机器学习框架，对多媒体数据进行处理。

其中，所述装置还包括：

验证数据获取模块，被设置为获取所述输入数据输入第二机器学习框架后的第二结果数据，将所述第二结果数据作为所述验证数据，其中，所述机器学习模型应用于所述第二机器学习框架，且所述第二机器学习框架为对所述机器学习模型进行训练或预测的机器学习框架。

根据本公开实施例的第三方面，提供一种基于机器学习模型处理多媒体数据的装置，包括：

处理器；

用于存储处理器可执行指令的存储器；

其中，所述处理器被配置为：

获取输入数据输入第一机器学习框架后的第一结果数据，所述机器学习模型应用于所述第一机器学习框架；

获取所述第一结果数据与验证数据的相似度，所述验证数据与所述机器学习模型相关联，所述相似度包括下述中至少一种：向量距离相似度、像素精度相似度、信噪比相似度；

当所述相似度大于设定阈值时，通过所述第一机器学习框架，对多媒体数据进行处理。

根据本公开实施例的第四方面，提供一种非临时性计算机可读存储介质，当所述存储介质中的指令由设备的处理器执行时，使得设备能够执行一种基于机器学习模型处理多媒体数据的方法，所述方法包括：

获取输入数据输入第一机器学习框架后的第一结果数据，所述机器学习模型应用于所述第一机器学习框架；

获取所述第一结果数据与验证数据的相似度，所述验证数据与所述机器学习模型相关联，所述相似度包括下述中至少一种：向量距离相似度、像素精度相似度、信噪比相似度；

当所述相似度大于设定阈值时，通过所述第一机器学习框架，对多媒体数据进行处理。

本公开的实施例提供的技术方案可以包括以下有益效果：通过本申请提供的方法，可以在将机器学习模型应用于某一机器学习框架前，检查该机器学习模型是否适用于该机器学习框架，即检查输出的结果数据与验证数据的相似度是否满足大于设定阈值的条件。当相似度大于设定阈值时，通过该机器学习框架对多媒体数据进行处理，从而提高了在该机器学习框架上应用该机器学习模型时处理多媒体数据的准确度和精度。具体地，相似度包括下述中至少一种：向量距离相似度、像素精度相似度、信噪比相似度，因此，本申请的方法可以从向量距离、像素精度、信噪比三个维度进行相似度的判断，全面地衡量计算结果的准确度和精度，提高应用该机器学习框架处理多媒体数据的准确性。

其中，第一机器学习框架包括：图像分类机器学习框架、图像分割机器学习框架、目标检测机器学习框架、语音识别机器学习框架或机器翻译机器学习框架。当本公开的方法应用于上述具体机器学习框架时，能够较佳地确定所应用的机器学习框架的输出数据的准确度和精度。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本发明的实施例，并与说明书一起用于解释本发明的原理。

图1是根据一示例性实施例示出的一种基于机器学习模型处理多媒体数据的方法的流程图。

图2是根据一示例性实施例示出的获取验证数据的流程图。

图3是根据一示例性实施例示出的一种基于机器学习模型处理多媒体数据的方法的流程图。

图4是根据一示例性实施例示出的一种基于机器学习模型处理多媒体数据的装置的框图。

图5是根据一示例性实施例示出的一种装置的框图。

图6是根据一示例性实施例示出的一种装置的框图。

具体实施方式

这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。

机器学习模型的训练或预测通常是在服务器端进行的，而训练好或预测好的模型往往需要在不同于训练或预测服务器的设备上进行部署，即需要将训练好或预测好的机器学习模型移植到不同的机器学习框架上。由于不同的机器学习框架可能存在运行环境的差异或实现方式的不同，相同的模型及输入数据得到的结果往往会有差异。在不同的机器学习框架上应用机器学习模型时，就需要先验证或评估机器学习模型在不同框架上计算结果的准确度以及精度。当应用机器学习模型的机器学习框架输出的结果数据满足准确度以及精度的要求时，再使用该机器学习框架处理多媒体数据。

由于机器学习的不断发展，网络模型的种类也越来越多，当数据的量很大或是高维数据时，如果只考察输出结果的对应元素的差值，就无法准确或全面反映两组结果数据之间的相似程度。并且，也无法满足不同应用场景的模型。例如，训练得到的原始模型数据以及计算过程通常采用浮点类型，而为了更高效的前向推理，很多情况下会用单精度或整型数据。从浮点数到单精度或整型数之间的转换或量化过程会给计算结果带来一定的差异，而直接比较数值的差值的方案无法准确衡量这种量化带来的误差水平。

因此，为了全面地验证或评估机器学习模型在不同机器学习框架上计算结果的准确度及精度，并且适应不同类型网络模型的结果验证以及衡量量化后的误差，以实现更佳地处理多媒体数据的目的，提出了一种基于机器学习模型处理多媒体数据的方法。即，在将一种训练或预测好的机器学习模型应用于一个具体的机器学习框架，处理多媒体数据之前，通过从多个维度将该机器学习框架的数据结果与验证结果进行相似度的比较，来确定该训练或预测好的机器学习模型是否适用于该具体的机器学习框架。

机器学习最基本的做法，是使用算法来解析数据、从中学习，然后对真实世界中的事件做出决策和预测。与传统的为解决特定任务、硬编码的软件程序不同，机器学习是用大量的数据来“训练”，通过各种算法从数据中学习如何完成任务。机器学习框架涵盖用于分类，回归，聚类，异常检测和数据准备的各种学习方法，其也可以包括神经网络方法。

机器学习模型的训练是指把训练数据和机器学习模型放入机器学习框架(例如Scikit-learning和Spark MLlib等)，然后提炼出模型参数的过程。机器学习模型的测试是指把测试数据用训练好的模型(机器学习模型+模型参数)跑一跑看看结果如何。

由于机器学习模型包括神经网络模型，机器学习框架包括神经网络框架，因此本申请的方法和装置也同样适用于神经网络模型和神经网络框架。

机器学习框架可以应用于服务器、移动终端或嵌入式设备上。

本实施例公开一种机器学习模型的应用方法，参照图1，图1是根据一示例性实施例示出的基于机器学习模型处理多媒体数据的方法的流程图。如图1所示，该方法包括：

步骤101，获取输入数据输入第一机器学习框架后的第一结果数据，机器学习模型应用于第一机器学习框架；

步骤102，获取第一结果数据与验证数据的相似度，验证数据与机器学习模型相关联，所述相似度包括下述中至少一种：向量距离相似度、像素精度相似度、信噪比相似度；

步骤103，当所述相似度大于设定阈值时，通过所述第一机器学习框架，对多媒体数据进行处理。

第一机器学习框架为机器学习模型在被训练或预测完成后所应用于的框架，该框架通常不是对机器学习模型进行训练或预测的框架。因此，为了确定训练或预测好的机器学习模型是否适用于一个具体应用场景中的机器学习框架，就需要对数据输入该机器学习框架后的结果数据进行检查，即确定该结果数据与验证数据的相似度是否满足设定条件，即该结果数据与验证数据是否足够相似。若结果数据与验证数据足够相似，则确定机器学习模型可适用于第一机器学习框架，并通过该机器学习框架对多媒体数据进行处理；若没有达到足够相似的程度，则确定机器学习模型不适用于第一机器学习框架。

需要说明的是，这里的“第一”并不是为了对机器学习框架进行限定，而是为了与后面提到的其它机器学习框架相区分。

通过上述方法，可以在将机器学习模型应用于某一机器学习框架前，检查该机器学习模型是否适用于该机器学习框架，即检查输出的结果数据与验证数据的相似度是否满足设定条件，从而提高了在该机器学习框架上应用该机器学习模型时输出数据的准确度和精度。

作为对图1所示的实施例的细化和进一步扩展，本实施例公开了另一种基于机器学习模型处理多媒体数据的基于机器学习模型处理多媒体数据的方法。图1所示的步骤102中的获取第一结果数据与验证数据的相似度进一步可以包括下述方式中的至少一种，其中第一结果数据和验证数据均为向量：

方式一，获取第一结果数据与验证数据的向量距离；

方式二，获取第一结果数据关于验证数据的像素精度；

方式三，获取第一结果数据关于验证数据的信噪比。

向量距离是指两个向量之间的距离。统计学上，通常采用余弦距离来比较任意维度空间上两个向量之间的距离，因为余弦距离适合作为校验计算结果偏差的依据。当然，在一些特定的情况下也可以用其他统计学上的向量距离或相似度计算方法来替代，例如闵可夫斯基距离、欧式距离、互信息、KL散度等。本申请的实施例中，用余弦距离为例来衡量不同机器学习框架计算得到的任意维度数据之间的差距和相似程度。因此，下面的实施例中以余弦距离为例来进行说明。

像素精度通常用来评价图像分割网络的分割精确度。尽管向量距离可以衡量结果的整体正确性，但是图像分割领域更关心的是像素的分类精度，所以对向量距离不敏感，但是对像素精度的要求较高的情况下，可以通过像素精度这一指标来确保分割精度满足要求。例如，在不同应用场景的网络中，输出结果的语义也不一样，例如分类网络关心的是输出分类结果的概率，而在另一些网络中，输出结果的统计特性是关注的重点。通常，尤其是在图像分割网络中，考察计算结果的像素点分布更符合实际情况。

信噪比指标可以用来衡量模型移植过程或量化过程带来的计算误差。不同的框架依赖的硬件平台不同，或同一个框架可能需要运行在不同的硬件平台上，这种运行环境带来的数值表示或计算的差异会给整个模型的计算结果带来误差。此外，为使模型更方便部署在嵌入式或移动设备上，同时提升模型运行速度，会对模型进行量化的转化。如将模型的权重数值和计算从float32型转为int8型，这样一方面可以压缩模型的大小，提升模型的计算速度，另一方面也会因此带来数值表示和计算的误差。所以这里引入信息论中的信噪比概念来衡量上述此种误差的程度。

向量距离、像素精度、信噪比这三种维度从不同角度表现了结果数据与验证数据之间的相似度，因此将上述三种维度的校验作为依据，得到一种全方面评估不同机器学习框架之间计算结果准确度和精度的方法，其能够适应不同类型网络模型的结果验证以及衡量量化后的误差。

需要说明的是，对于某些特殊的机器学习框架，可以仅选择上述三种维度中的一种或两种来评估结果数据与验证数据之间的相似度。当然，若同时选择三种维度进行评估，可以得到较为全面的评估结果。

关于向量距离、像素精度、信噪比的具体计算，后面结合另外的实施例详细说明。

作为对图1所示的实施例的细化和进一步扩展，本实施例公开了另一种基于机器学习模型处理多媒体数据的方法。在该方法中，第一机器学习框架包括：图像分类机器学习框架、图像分割机器学习框架、目标检测机器学习框架、语音识别机器学习框架或机器翻译机器学习框架。

这里的第一机器学习框架可以是上述具体机器学习框架中的任一种。当本公开的方法应用于上述具体机器学习框架时，能够较佳地确定所应用的机器学习框架的输出数据的准确度和精度。

作为对图1所示的实施例的细化和进一步扩展，本实施例公开了另一种基于机器学习模型处理多媒体数据的方法。当所述相似度包括向量距离相似度、像素精度相似度和信噪比相似度中至少两种时，图1所示的步骤103中的相似度大于设定阈值包括：所述至少两种相似度中每种相似度均大于对应的设定阈值。

例如，向量距离对应的设定阈值为第一阈值，像素精度对应的设定阈值为第二阈值，信噪比对应的设定阈值为第三阈值。当相似度仅包括向量距离相似度时，需要第一结果数据与验证数据的向量距离大于第一阈值；当相似度包括像素精度相似度和信噪比相似度时，需要第一结果数据与验证数据的像素精度大于第二阈值，且第一结果数据与验证数据的信噪比大于第三阈值；当相似度包括向量距离相似度、像素精度相似度和信噪比相似度时，需要第一结果数据与验证数据的向量距离大于第一阈值，第一结果数据与验证数据的像素精度大于第二阈值，且第一结果数据与验证数据的信噪比大于第三阈值。

向量距离可以作为通用的验证计算结果的正确性的指标。以向量距离中的余弦距离为例，余弦距离越接近于1，则表示数据的准确度越高。因此，可以例如设置第一阈值为0.999，当然也可以根据具体应用场景设置其它合适的数值。

像素精度通常用来评价图像分割网络的分割精确度，即可以通过像素精度这一指标来确保分割精度满足要求。通常，像素精度越接近于1，则表示图像分割网络的精度越高。因此，可以例如设置第二阈值为0.99，当然也可以根据具体应用场景设置其它合适的数值。

另外，不同的机器学习框架可能运行环境的不同，或模型数据经过量化压缩后，数据表示精度有所差异，也会带来计算结果精度的损失，因此采用信噪比的方式来评估这种情况带来的精度损失，从而作为校验计算结果精度的依据。通常，信噪比越高，则表示误差越小。因此，可以例如设置第三阈值为1000，当然也可以根据具体应用场景设置其它合适的数值。

作为对图1所示的实施例的细化和进一步扩展，本实施例公开了另一种机器学习模型的应用方法。如图2所示，图1所示的步骤102获取第一结果数据与验证数据的相似度之前，所述方法还包括：

步骤201，获取输入数据输入第二机器学习框架后的第二结果数据，将第二结果数据作为验证数据，其中，机器学习模型应用于第二机器学习框架，且第二机器学习框架为对机器学习模型进行训练或预测的机器学习框架。

将与步骤101中的输入数据相同的数据输入对机器学习模型进行训练或预测的第二机器学习框架后，得到第二结果数据，将该第二结果数据作为验证机器学习模型是否适用于第一机器学习框架的验证数据。应该理解的是，由于第二机器学习框架是对机器学习模型进行训练或预测的框架，因此当机器学习模型应用于第二机器学习框架时，第二机器学习框架输出的第二结果数据的准确度和精度是非常高的，适于作为与机器学习模型相关联的验证数据。即，通过该方法获取验证数据，并通过该验证数据确定第一结果数据的准确度和精度，能够得到非常准确的结果。当然，也可以采用与机器学习模型相关的算法通过计算得到合适的验证数据，在此不再赘述。

下面以具体实施例的方式，说明如何获取向量距离、像素精度、信噪比。

在该实施例中，输入数据为一张图片，该图片分别输入两个机器学习框架，其中一个机器学习框架是对分类的卷积神经网络模型进行训练的神经网络框架，另一个机器学习框架是该卷积神经网络模型应用于的神经网络框架。图片经过训练用的神经网络框架的输出结果数据为A，图片经过具体应用场景的神经网络框架的输出结果数据为B。

A(2,10)为：

[0.97698,0.00312,0.00034,0.0187,0.17651,0.58212,0.01043,0.00056,0.38327,0.76329,0.05216,0.00238,0.04389,0.06341,0.83918,0.63982,0.00438,0.20193,0.64811,0.06351]B(2,10)为：

[0.97697,0.00302,0.00037,0.0183,0.17648,0.58210,0.01045,0.00057,0.38327,0.76329,0.05215,0.00237,0.04387,0.06340,0.83918,0.63981,0.00436,0.20194,0.64810,0.06350]

(1)计算余弦距离的过程如下：

其中CosD表示余弦距离，AdotB是A和B各对应元素的乘积和，normA和normB分别是A和B中所有元素的平方和的平方根，基于上述给出的具体数值计算可得：

AdotB＝3.6415788318000004

NormA＝1.9083046787397449

normB＝1.9082796155176

因此，计算得到余弦距离CosD＝0.9999999761543223，非常接近于1。余弦距离越接近1，说明两个结果数据的相似度越高。

(2)计算像素精度的过程如下：

当结果数据A和B的数据维度小于2时，像素精度即为1.0；

当结果数据A和B的数据维度大于或等于2时，则需要将其数据维度进行降低，即将结果数据A和B变换为2维数据，该2维数据即可用行列式的方式表示。

数据维数降低的方法可以是，例如，保持原始数据的取值和次序不变，将除了最后一维的其他维度相乘作为第一个维度，最后一个维度作为第二个维度。比如，原始数据为四维数据T(2,256,64,4)，降为二维数据为T′(2×256×64,4)，第一维度的值就是2×256×64＝2048。即，可以用2048行4列的行列式表示这个2维数据。

关于数据维度的降维方法是本领域技术人员已知的，因此在此不再详细赘述。

参照前面给出的具体数值，结果数据A和B为2维数据向量，可以表示为A(2,10)，B(2,10)。

设置计数器，计数器的初始值为0，在数据的每行(第一维度包括的各行)上比较结果数据A中取最大值的元素的对应索引值(在相应行中的序号)和B中取最大值的元素的对应索引值(在相应行中的序号)是否相同，如果相同，当前计数器的值加1，用最终得到的计数器的值除以数据第一维度的值作为像素精度。

例如，在本实施例中，数据A中第0行的最大元素为第0个元素0.97698，即argmax(A[0])＝0,argmax为向量A第0行中最大值元素的索引值；数据B中第0行的最大元素为第0个元素0.97697，即argmax(B[0])＝0，第0行比较完后，由于argmax(A[0])＝argmax(B[0])＝0，所以correct_count加1，即0+1＝1；

在数据A中第1行的最大元素为第4个元素0.83918，即argmax(A[0])＝4，数据B中第1行的最大元素为第4个元素0.83918，即为argmax(B[0])＝4，由于argmax(A[1])＝argmax(B[1])＝4，所以correct_count再次加1，即1+1＝2。

像素精度的计算公式则为：

其中，pixel_accuracy表示像素精度，correct_count表示两个数据中各行中最大元素的序号相同的数量，batch表示数据的第一维度的值。上述例子中计算得到的像素精度为：

像素精度越接近1.0，说明偏差越小。

(3)计算信噪比的过程如下：

结果数据A和结果数据B中对应的元素相减，得到的差值数据表示为：

Noise＝A-B

其中SNR表示信噪比，power_sum表示向量中元素的平方和，D表示一个值非常小的常量，例如D取值为1e-15。

将上述给出的具体数值带入通过计算可得，SNR＝20892867.04536494。信噪比越高，表明两个计算结果的误差越小。

在该实施例中，余弦距离、像素精度、信噪比满足设定条件，则认为机器学习模型可以适用于具体应用场景中的机器学习框架。

需要说明的是，在本申请的方法中，当确定相似度不满足设定条件，即确定机器学习模型不适用于第一机器学习框架时，则需要对机器学习模型或第一机器学习框架进行调整。可以基于上述各个维度的具体情况进行原因判断及调整。具体可以采用下面的方案：

(1)如果余弦相似度不满足预期，说明整个神经网络的计算过程存在问题，可以通过验证可能存在问题层的计算结果的余弦相似度，或通过逐层验证余弦相似度的方式定位问题；(2)像素精度通常只能适用于输出层，所以为找出引起像素精度异常的情况，可以将余弦相似度的阈值提高，逐层验证余弦相似度，从而定位问题；(3)针对信噪比不满足预期的情况，通常可以通过逐层验证信噪比来定位问题，如果所有层验证之后，依然无法定位问题，需要从硬件平台的差异或模型的量化方案进一步分析问题。

下面结合图3，描述根据本申请的机器学习模型应用方法的一具体实施例。在本实施例中，以神经网络模型和神经网络框架为例，描述本申请提出的方法，但是这种方法并不限于仅应用于神经网络模型和神经网络框架，而是可以应用于其他机器学习模型和机器学习框架中。其中，神经网络模型将要应用于第一神经网络框架中以处理多媒体数据，因此需要确定该神经网络模型是否适用于第一神经网络框架，该神经网络模型在第二神经网络框架中训练。该实施例中的方法包括以下步骤：

步骤301，将一张图像输入第一神经网络框架，得到第一结果数据。

步骤302，将相同的图像输入第二神经网络框架，得到第二结果数据，作为验证数据。

步骤303，获取第一结果数据与验证数据的余弦距离、第一结果数据关于验证数据的像素精度和信噪比。

步骤304，判断余弦距离是否大于0.999，像素精度是否大于0.99，信噪比是否大于1000。

步骤305，当上述三个条件同时满足时，确定神经网络模型适用于第一神经网络框架。

步骤306，通过该第一神经网络框架处理图像数据。

图4是根据一示例性实施例示出的一种基于机器学习模型处理多媒体数据的装置框图。所述装置包括：

结果数据获取模块401，被设置为获取输入数据输入第一机器学习框架后的第一结果数据，所述机器学习模型应用于所述第一机器学习框架；

相似度获取模块402，被设置为获取所述第一结果数据与验证数据的相似度，所述验证数据与所述机器学习模型相关联，所述相似度包括下述中至少一种：向量距离相似度、像素精度相似度、信噪比相似度；

数据处理模块403，被设置为当所述相似度大于设定阈值时，通过所述第一机器学习框架，对多媒体数据进行处理。

在可选实施方式中，所述第一机器学习框架包括：图像分类机器学习框架、图像分割机器学习框架、目标检测机器学习框架、语音识别机器学习框架或机器翻译机器学习框架。

在可选实施方式中，所述数据处理模块还被设置为：

当所述相似度包括向量距离相似度、像素精度相似度和信噪比相似度中至少两种时，当所述至少两种相似度中每种相似度均大于对应的设定阈值时，通过所述第一机器学习框架，对多媒体数据进行处理。

在可选实施方式中，所述装置还包括：

验证数据获取模块，被设置为获取所述输入数据输入第二机器学习框架后的第二结果数据，将所述第二结果数据作为所述验证数据，其中，所述机器学习模型应用于所述第二机器学习框架，且所述第二机器学习框架为对所述机器学习模型进行训练或预测的机器学习框架。

本公开的实施例提供的技术方案可以包括以下有益效果：通过本申请提供的方法，可以在将机器学习模型应用于某一机器学习框架前，检查该机器学习模型是否适用于该机器学习框架，即检查输出的结果数据与验证数据的相似度是否满足大于设定阈值的条件。当相似度大于设定阈值时，通过该机器学习框架对多媒体数据进行处理，从而提高了在该机器学习框架上应用该机器学习模型时处理多媒体数据的准确度和精度。具体地，相似度包括下述中至少一种：向量距离相似度、像素精度相似度、信噪比相似度，因此，本申请的方法可以从向量距离、像素精度、信噪比三个维度进行相似度的判断，全面地衡量计算结果的准确度和精度，提高应用该机器学习框架处理多媒体数据的准确性。

图5是根据一示例性实施例示出的一种基于机器学习模型处理多媒体数据的装置500的框图。例如，装置500可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等。

参照图5，装置500可以包括以下一个或多个组件：处理组件502，存储器504，电力组件506，多媒体组件508，音频组件510，输入/输出(I/O)的接口512，传感器组件514，以及通信组件516。

处理组件502通常控制装置500的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理组件502可以包括一个或多个处理器520来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件502可以包括一个或多个模块，便于处理组件502和其他组件之间的交互。例如，处理组件502可以包括多媒体模块，以方便多媒体组件508和处理组件502之间的交互。

存储器504被配置为存储各种类型的数据以支持在设备500的操作。这些数据的示例包括用于在装置500上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器504可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。

电力组件506为装置500的各种组件提供电力。电力组件506可以包括电源管理系统，一个或多个电源，及其他与为装置500生成、管理和分配电力相关联的组件。

多媒体组件508包括在所述装置500和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件508包括一个前置摄像头和/或后置摄像头。当设备500处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。

音频组件510被配置为输出和/或输入音频信号。例如，音频组件510包括一个麦克风(MIC)，当装置500处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器504或经由通信组件516发送。在一些实施例中，音频组件510还包括一个扬声器，用于输出音频信号。

I/O接口512为处理组件502和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。

传感器组件514包括一个或多个传感器，用于为装置500提供各个方面的状态评估。例如，传感器组件514可以检测到设备500的打开/关闭状态，组件的相对定位，例如所述组件为装置500的显示器和小键盘，传感器组件514还可以检测装置500或装置500一个组件的位置改变，用户与装置500接触的存在或不存在，装置500方位或加速/减速和装置500的温度变化。传感器组件514可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件514还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件514还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。

通信组件516被配置为便于装置500和其他设备之间有线或无线方式的通信。装置500可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，通信组件516经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述通信组件516还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。

在示例性实施例中，装置500可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。

在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的存储器504，上述指令可由装置500的处理器520执行以完成上述方法。例如，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。

一种非临时性计算机可读存储介质，当所述存储介质中的指令由移动终端的处理器执行时，使得移动终端能够执行一种基于机器学习模型处理多媒体数据的方法，所述方法包括：获取输入数据输入第一机器学习框架后的第一结果数据，所述机器学习模型应用于所述第一机器学习框架；获取所述第一结果数据与验证数据的相似度，所述验证数据与所述机器学习模型相关联，所述相似度包括下述中至少一种：向量距离相似度、像素精度相似度、信噪比相似度；当所述相似度大于设定阈值时，通过所述第一机器学习框架，对多媒体数据进行处理。

图6是根据一示例性实施例示出的一种基于机器学习模型处理多媒体数据的装置600的框图。例如，装置600可以被提供为一服务器。参照图6，装置600包括处理组件622，其进一步包括一个或多个处理器，以及由存储器632所代表的存储器资源，用于存储可由处理组件622的执行的指令，例如应用程序。存储器632中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外，处理组件622被配置为执行指令，以执行上述方法：获取输入数据输入第一机器学习框架后的第一结果数据，所述机器学习模型应用于所述第一机器学习框架；获取所述第一结果数据与验证数据的相似度，所述验证数据与所述机器学习模型相关联，所述相似度包括下述中至少一种：向量距离相似度、像素精度相似度、信噪比相似度；当所述相似度大于设定阈值时，通过所述第一机器学习框架，对多媒体数据进行处理。

装置600还可以包括一个电源组件626被配置为执行装置600的电源管理，一个有线或无线网络接口650被配置为将装置600连接到网络，和一个输入输出(I/O)接口658。装置600可以操作基于存储在存储器632的操作系统，例如Windows ServerTM，Mac OSXTM，UnixTM,LinuxTM，FreeBSDTM或类似。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由下面的权利要求指出。

应当理解的是，本发明并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。

Claims (10)

1.一种基于机器学习模型处理多媒体数据的方法，其特征在于，所述方法包括：

获取输入数据输入第一机器学习框架后的第一结果数据，所述机器学习模型应用于所述第一机器学习框架；

获取所述第一结果数据与验证数据的相似度，所述验证数据与所述机器学习模型相关联，所述相似度包括下述中至少一种：向量距离相似度、像素精度相似度、信噪比相似度；

当所述相似度大于设定阈值时，通过所述第一机器学习框架，对多媒体数据进行处理。

2.如权利要求1所述的方法，其特征在于，所述第一机器学习框架包括：图像分类机器学习框架、图像分割机器学习框架、目标检测机器学习框架、语音识别机器学习框架或机器翻译机器学习框架。

3.如权利要求1所述的方法，其特征在于，当所述相似度包括向量距离相似度、像素精度相似度和信噪比相似度中至少两种时，所述相似度大于设定阈值包括：

所述至少两种相似度中每种相似度均大于对应的设定阈值。

4.如权利要求1所述的方法，其特征在于，在所述获取所述第一结果数据与验证数据的相似度之前，所述方法还包括：

获取所述输入数据输入第二机器学习框架后的第二结果数据；

将所述第二结果数据作为所述验证数据；

其中，所述机器学习模型应用于所述第二机器学习框架，且所述第二机器学习框架为对所述机器学习模型进行训练或预测的机器学习框架。

5.一种基于机器学习模型处理多媒体数据的装置，其特征在于，所述装置包括：

结果数据获取模块，被设置为获取输入数据输入第一机器学习框架后的第一结果数据，所述机器学习模型应用于所述第一机器学习框架；

相似度获取模块，被设置为获取所述第一结果数据与验证数据的相似度，所述验证数据与所述机器学习模型相关联，所述相似度包括下述中至少一种：向量距离相似度、像素精度相似度、信噪比相似度；

数据处理模块，被设置为当所述相似度大于设定阈值时，通过所述第一机器学习框架，对多媒体数据进行处理。

6.如权利要求5所述的装置，其特征在于，所述第一机器学习框架包括：图像分类机器学习框架、图像分割机器学习框架、目标检测机器学习框架、语音识别机器学习框架或机器翻译机器学习框架。

7.如权利要求6所述的装置，其特征在于，所述数据处理模块还被设置为：

当所述相似度包括向量距离相似度、像素精度相似度和信噪比相似度中至少两种时，当所述至少两种相似度中每种相似度均大于对应的设定阈值时，通过所述第一机器学习框架，对多媒体数据进行处理。

8.如权利要求5所述的装置，其特征在于，所述装置还包括：

验证数据获取模块，被设置为获取所述输入数据输入第二机器学习框架后的第二结果数据，将所述第二结果数据作为所述验证数据，其中，所述机器学习模型应用于所述第二机器学习框架，且所述第二机器学习框架为对所述机器学习模型进行训练或预测的机器学习框架。

9.一种基于机器学习模型处理多媒体数据的装置，其特征在于，包括：

处理器；

用于存储处理器可执行指令的存储器；

其中，所述处理器被配置为：

获取输入数据输入第一机器学习框架后的第一结果数据，所述机器学习模型应用于所述第一机器学习框架；

获取所述第一结果数据与验证数据的相似度，所述验证数据与所述机器学习模型相关联，所述相似度包括下述中至少一种：向量距离相似度、像素精度相似度、信噪比相似度；

当所述相似度大于设定阈值时，通过所述第一机器学习框架，对多媒体数据进行处理。

10.一种非临时性计算机可读存储介质，当所述存储介质中的指令由设备的处理器执行时，使得设备能够执行一种基于机器学习模型处理多媒体数据的方法，所述方法包括：

获取输入数据输入第一机器学习框架后的第一结果数据，所述机器学习模型应用于所述第一机器学习框架；

获取所述第一结果数据与验证数据的相似度，所述验证数据与所述机器学习模型相关联，所述相似度包括下述中至少一种：向量距离相似度、像素精度相似度、信噪比相似度；

当所述相似度大于设定阈值时，通过所述第一机器学习框架，对多媒体数据进行处理。

Images