具体实施方式
以下通过特定的具体实例说明本公开的实施方式,本领域技术人员可由本说明书所揭露的内容轻易地了解本公开的其他优点与功效。显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。本公开还可以通过另外不同的具体实施方式加以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本公开的精神下进行各种修饰或改变。需说明的是,在不冲突的情况下,以下实施例及实施例中的特征可以相互组合。基于本公开中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本公开保护的范围。
需要说明的是,下文描述在所附权利要求书的范围内的实施例的各种方面。应显而易见,本文中所描述的方面可体现于广泛多种形式中,且本文中所描述的任何特定结构及/或功能仅为说明性的。基于本公开,所属领域的技术人员应了解,本文中所描述的一个方面可与任何其它方面独立地实施,且可以各种方式组合这些方面中的两者或两者以上。举例来说,可使用本文中所阐述的任何数目个方面来实施设备及/或实践方法。另外,可使用除了本文中所阐述的方面中的一或多者之外的其它结构及/或功能性实施此设备及/或实践此方法。
还需要说明的是,以下实施例中所提供的图示仅以示意方式说明本公开的基本构想,图式中仅显示与本公开中有关的组件而非按照实际实施时的组件数目、形状及尺寸绘制,其实际实施时各组件的型态、数量及比例可为一种随意的改变,且其组件布局型态也可能更为复杂。
另外,在以下描述中,提供具体细节是为了便于透彻理解实例。然而,所属领域的技术人员将理解,可在没有这些特定细节的情况下实践所述方面。
本公开实施例提供一种目标对象分类模型的参数更新方法。本实施例提供的该目标对象分类模型的参数更新方法可以由一计算装置来执行,该计算装置可以实现为软件,或者实现为软件和硬件的组合,该计算装置可以集成设置在服务器、终端设备等中。如图1所示,该目标对象分类模型的参数更新方法主要包括如下步骤S101至步骤S106。其中:
步骤S101,初始化所述目标对象分类模型的参数;
所述目标对象分类模型用于对目标对象进行分类,示例性的,所述目标对象为图像、语音、文本文档等等。所述目标对象分类模型可以是卷积神经网络等各种网络模型。所述参数可以包括模型中各层的卷积核中的权重、偏置量等等。
可选的,所述的初始化所述目标对象分类模型的参数包括将所述参数赋值为预设的值或者随机生成所述参数的初始值。
步骤S102,获取目标对象的样本集;
其中,所述目标对象的样本集为带有标注数据的目标对象的样本,如带有类型信息的图片集合或带有文本信息的语音集合等等。所述样本集用于参数更新所述目标对象分类模型或者用于验证所述目标对象分类模型的参数的准确度。
步骤S103,将所述目标对象的样本集输入所述目标对象分类模型得到分类结果;
其中,所述分类结果为所述目标对象分类模型所实际输出的结果。示例性的,所述分类结果为输入所述目标对象分类模型中的目标对象样本为某个类型的概率值,当某个类型的概率值大于一个阈值时,可以认为模型将其分类为该类型。
步骤S104,根据目标函数计算所述分类结果与所述目标对象的样本的监督数据的误差;
所述监督数据即为标注数据,所述目标函数为计算所述分类结果与所述监督数据的误差的函数。示例性的,所述误差函数为:L2=|f(x)-Y|2,其中f(x)为所述目标对象分类模型的输出值,Y为所述输出值的监督数据的值,计算两者的平方差作为所述误差。
可以理解的,上述目标函数仅为举例,实际上本公开中所述的目标函数可以是任何目标函数,在此不再赘述。
步骤S105,响应于所述误差大于第一阈值,根据所述目标函数的梯度函数的导数计算第一矩阵,其中所述第一矩阵中的元素为以所述参数为变量的函数;
在该步骤中,如果所述误差大于第一阈值,则继续后续的参数更新步骤,如果所述误差不大于第一阈值,证明现有参数已经能够很好的对所述目标对象进行分类,则参数更新完毕。
在此,首先定义一下参数如何更新。设所述参数更新集合中一共有N个样本,fi(x)为第i个样本所对应的损失函数值,d为参数的维度值,则:
即为目标,即得到参数x使得F(x)的值最小。
由牛顿法可以得到:
其中t为迭代的次数,x
t为当前一轮迭代中的参数,η
t为学习率,
为当前迭代参数所对应的黑塞矩阵的逆矩阵,其中B表示样本的批次,也即是中参数的更新是在样本的一个子集中进行的,每次迭代样本的大小为B,g
B(x
t)为损失函数的梯度,其中
其中
根据上述公式(1)即可迭代参数x。
但是由于H
B(x
t)为二阶导数,计算量很大,因此在本公开中,对所述
进行近似,以较快计算速度。近似的过程如下,对于一个矩阵H
B,其均可以写成如下形式:
可以理解的,由于H
B的计算很复杂,所以在本公开中不计算H
B而是直接计算H
BU。为了计算H
BU,先计算ψ
B(x
t,Ω),记
其中Ω为由随机向量组成的随机向量矩阵,其中Ω
i为Ω中第i列随机向量,其中所述随机向量为符合高斯分布的随机向量。对于H
B(x
t)Ω
i,其还可以写成如下形式:
这样,就不用计算HB,可以通过梯度的导数直接得到HB(xt)Ω。记HB(xt)Ω=Y,对矩阵Y做QR分解:Y=UR,其中的正交矩阵U即为HBU中的U。
再设Z=ψ
B(x
t,U),可以通过上述方式直接得到H
BU,得到H
BU之后,由于
则
就可以得到,则其逆矩阵就可以得到。由此可以直接得到H
B的近似矩阵的逆矩阵,且由于并不需要将黑塞矩阵H
B计算出来,计算量大大下降。
在该步骤中,利用如下公式可以计算出H
BU
其中U
i表示矩阵U第i列的向量。通过矩阵Z可以计算出
的逆矩阵,即该步骤中的第一矩阵。对于第一矩阵中的每个元素,其值都是有参数x
t决定的,因此第一矩阵中的每个元素为以所述参数为变量的函数。
在该步骤中所述目标函数的梯度函数的导数为:
利用该导数计算出上述第一矩阵。
在实际计算中,HB(xt)Ωi可以通过如下性质计算:
即可以通过
来计算H
B(x
t)Ω
i,进而计梯度算出H
B(x
t)Ω。
可选的,根据上述分析过程,如图2所示,所述步骤S105,还包括:
步骤S201,对所述目标函数的梯度函数的导数进行QR分解得到第一正交矩阵;
步骤S202,根据所述第一正交矩阵计算第一矩阵。
如上述分析,对H
B(x
t)Ω=Y进行QR分解,得到第一正交矩阵U,之后根据所述第一正交矩阵U计算第一矩阵
可选的,根据上述分析过程,如图3所示,所述步骤S202,还包括:
步骤S301,将所述第一正交矩阵和所述参数作为所述目标函数的梯度函数中的变量;
步骤S302,根据所述目标函数的梯度函数和第一正交矩阵计算所述第一矩阵。
在得到第一正交矩阵U之后,将其和本次迭代中所用的参数作为变量带入所述目标函数的梯度函数中,得到:
可选的,如图4所示,所述步骤S302,还包括:
步骤S401,根据所述第一正交矩阵和所述第一正交矩阵的转置矩阵计算第二矩阵;
步骤S402,根据所述目标函数的梯度函数、所述第一正交矩阵、所述第一正交矩阵的转置矩阵以及所述第二矩阵计算所述第一矩阵。
根据上述公式(2):
但是此时
不一定是可逆矩阵,如果不可逆,则无法计算更新后的参数,因此需要在公式(2)的基础上加上一个矩阵,使得
为一个满秩矩阵,这样
一定有逆矩阵。因此在该可选实施例中,使用下述公式计算
进一步的,上述公式中还有参数λ以及单位矩阵I。因此,可选的,所述步骤S402,还包括:
获取第一系数;
根据所述第一系数、所述第一正交矩阵、所述第一正交矩阵的转置矩阵以及单位矩阵计算所述第二矩阵。
其中所述第一系数为实数,其使得
得到的新的
为满秩矩阵。
进一步的,所述获取第一系数,包括:
计算所述目标函数的梯度函数的矩阵的转置矩阵与所述第一正交矩阵的乘积得到第三矩阵;
对所述第三矩阵进行SVD分解得到第三矩阵的奇异值;
根据所述奇异值获取所述第一系数。
在该实施例中,首先计算Z
TU得到第三矩阵,之后对第三矩阵Z
TU进行SVD分解,得到Z
TU的奇异值;设置λ≤min{σ
m+1,t,λ
min,t},其中
其中σ
min(Z
TU)表示矩阵Z
TU的奇异值中的最小值σ
m+1,t表示Z
TU的奇异值中第m+1个奇异值。λ为符合约束条件λ≤min{σ
m+1,t,λ
min,t}的实数,其使得
为可逆矩阵。
根据所述目标函数的梯度函数、所述第一正交矩阵、所述第一正交矩阵的转置矩阵计算第四矩阵;
计算所述第四矩阵的逆矩阵与所述第二矩阵的逆矩阵的和作为所述第一矩阵。
在该实施例中,
其中UU
TZU
T即为第四矩阵。根据逆矩阵的计算方法,可以得到:
即可得到第一矩阵。
步骤S106,根据所述参数以及所述第一矩阵计算更新所述参数。
在该步骤中,根据当前的参数以及第一矩阵计算下一次迭代时所使用的参数。
可选的,所述步骤S106,包括:
获取学习率参数;
计算所述学习率参数、所述第一矩阵以及所述目标函数的梯度的第一乘积;
计算所述参数与所述第一乘积的差值作为更新后的参数。
上述步骤的过程,可以通过以下公式来描述:
其中,η
t为学习率,为预先设置的学习参数,其用于控制每次迭代时参数更新的幅度。
为目标函数在参数x
t处的梯度,x
t为当前的参数,x
t+1为下次迭代所使用的参数。由此可以计算出更新后的参数,当上述误差大于一预先设定的阈值时,一直重复执行上述步骤S102-步骤S106,直至所述误差小于所述预选设定的阈值,参数更新完毕,所述目标对象的分类模型训练完成。
示例性的,以下为计算更新参数的一个完整的实例。目标函数为F,初始参数为x
0,预计的迭代次数为T,t为当前的迭代次数,学习率为η
t,N为样本的个数。则当t从0到T循环时,选择一个样本集的子集B,其中
产生一个随机的高斯矩阵Ω,其中高斯矩阵的每一列均为符合高斯分布的列向量,其中
(表示Ω为一个d×l的矩阵),其中d为x
t的维度,l为预设的可调参数。设Y
0=Ω,当j从1到2q+1递增时,通过以下公式:Y
j=ψ
B(x
t,Y
j-1),计算得到矩阵Y
2q+1,其中,q也是预设的可调参数,一般情况下可以设置q=log(d),优选的,可以设置q=2或者q=3。对Y
2q+1进行QR分解:Y
2q+1=UR,得到第一正交矩阵U;设Z=ψ
B(x
t,U),通过
且λ≤min{σ
m+1,t,λ
min,t}的约束条件选取λ,其中m为预设的可调参数,一般可以设置
上述的l一般可以设置l=m+4或者l=m+5。在得到λ之后,可以直接计算黑塞矩阵的近似矩阵的逆矩阵:
在得到
之后,可以根据以下公式直接计算更新后的参数:
通过上边的计算过程可以看到,由于矩阵U可以计算得到,所述矩阵Z可以通过一阶梯度计算得到,避免了计算二阶的黑塞矩阵,大大减小了计算量。
图5为本公开实施例中目标对象的分类方法的流程示意图。本实施例提供的该目标对象的分类方法可以由一计算装置来执行,该计算装置可以实现为软件,或者实现为软件和硬件的组合,该计算装置可以集成设置在服务器、终端设备等中。如图5所示,所述目标对象的分类方法主要包括如下步骤S501至步骤S502。其中:
步骤S501,获取目标对象,所述目标对象包括图像、语音或文本之一;
在本公开中,所述目标对象可以是图像、语音或者文本之一。示例性的,所述图像为狗和猫的图像,则通过分类将狗和猫的图像识别出来;所述语音可以是唤醒词,则通过分类从语音中识别出唤醒词以执行相应的功能;所述文本可以是包括多个汉字的文档,则通过分类可以将所述文本分类为多个意向类别等等。
步骤S502,利用目标对象分类模型确定所述目标对象的类别,其中所述目标对象分类模型的参数是通过以下方式确定的:初始化所述目标对象分类模型的参数;获取目标对象的样本集;将所述目标对象的样本集输入所述目标对象分类模型得到分类结果;根据目标函数计算所述分类结果与所述目标对象的样本的监督数据的误差;响应于所述误差大于第一阈值,根据所述目标函数的梯度函数的导数计算第一矩阵,其中所述第一矩阵中的元素为以所述参数为变量的函数;根据所述参数以及所述第一矩阵计算更新所述参数。
其中所述步骤S502中目标对象分类模型的参数确定过程与上述目标对象分类模型的参数更新方法的步骤S101-S106中所描述的过程相同,在此不再赘述。可以理解的,虽然上述步骤中限定了模型为目标对象的分类模型,但是实际上,本公开中的参数更新方法可以应用于各种有监督的机器学习方法中,比如各种分类模型和回归模型,其可以使用上述方法计算出牛顿法中所使用的黑塞矩阵的近似矩阵,避免了计算二阶导数所带来的计算量。传统牛顿法的计算复杂度为O(Nd2+d3),由于N为样本的个数,d为参数的维度,一般情况下,这两个数值都非常大,因此O(Nd2+d3)非常大,计算量很大。而本公开中的方法的计算复杂度为O(Nd+bld+l2d),由于选择了样本的子集,所以b小于n,而l<<d,因此O(Nd+bld+l2d)远小于O(Nd2+d3),计算速度大加快。
可以理解的,虽然实施例中使用了收敛条件响应于所述误差大于第一阈值,但实际上在不同场景下,收敛条件也可以是迭代次数达到预设值,如示例中所写的迭代次数为T,则其可以直接对参数进行迭代计算,迭代完之后使用样本集进行验证,如果效果不好可以继续迭代,如果效果达到预期,则参数的更新结束。收敛条件还可以是误差小于第一阈值,在此不再赘述。
本公开实施例公开一种目标对象的分类方法、装置和电子设备。其中,该目标对象的分类方法包括:获取目标对象,所述目标对象包括图像、语音或文本之一;利用目标对象分类模型确定所述目标对象的类别,其中所述目标对象分类模型的参数是通过以下方式确定的:初始化所述目标对象分类模型的参数;获取目标对象的样本集;将所述目标对象的样本集输入所述目标对象分类模型得到分类结果;根据目标函数计算所述分类结果与所述目标对象的样本的监督数据的误差;响应于所述误差大于第一阈值,根据所述目标函数的梯度函数的导数计算第一矩阵,其中所述第一矩阵中的元素为以所述参数为变量的函数;根据所述参数以及所述第一矩阵计算更新所述参数。本公开通过目标函数的梯度函数的导数计算第一矩阵,解决了现有技术中使用黑塞矩阵计算参数所带来的计算量大的技术问题。
在上文中,虽然按照上述的顺序描述了上述方法实施例中的各个步骤,本领域技术人员应清楚,本公开实施例中的步骤并不必然按照上述顺序执行,其也可以倒序、并行、交叉等其他顺序执行,而且,在上述步骤的基础上,本领域技术人员也可以再加入其他步骤,这些明显变型或等同替换的方式也应包含在本公开的保护范围之内,在此不再赘述。
下面为本公开装置实施例,本公开装置实施例可用于执行本公开方法实施例实现的步骤,为了便于说明,仅示出了与本公开实施例相关的部分,具体技术细节未揭示的,请参照本公开方法实施例。
本公开实施例提供一种目标对象分类模型的参数更新装置。该装置可以执行上述目标对象分类模型的参数更新方法实施例中所述的步骤。如图6所示,该装置600主要包括:参数初始化模块601、样本获取模块602、分类结果获取模块603、误差计算模块604、第一矩阵计算模块605和参数更新模块606。其中,
参数初始化模块601,用于初始化所述目标对象分类模型的参数;
样本获取模块602,用于获取目标对象的样本集;
分类结果获取模块603,用于将所述目标对象的样本集输入所述目标对象分类模型得到分类结果;
误差计算模块604,用于根据目标函数计算所述分类结果与所述目标对象的样本的监督数据的误差;
第一矩阵计算模块605,用于响应于所述误差大于第一阈值,根据所述目标函数的梯度函数的导数计算第一矩阵,其中所述第一矩阵中的元素为以所述参数为变量的函数;
参数更新模块606,用于根据所述参数以及所述第一矩阵计算更新所述参数。
进一步的,所述第一矩阵计算模块605,还用于:
对所述目标函数的梯度函数的导数进行QR分解得到第一正交矩阵;
根据所述第一正交矩阵计算第一矩阵。
进一步的,所述第一矩阵计算模块605,还用于:
将所述第一正交矩阵和所述参数作为所述目标函数的梯度函数中的变量;
根据所述目标函数的梯度函数和第一正交矩阵计算所述第一矩阵。
进一步的,所述第一矩阵计算模块605,还用于:
根据所述第一正交矩阵和所述第一正交矩阵的转置矩阵计算第二矩阵;
根据所述目标函数的梯度函数、所述第一正交矩阵、所述第一正交矩阵的转置矩阵以及所述第二矩阵计算所述第一矩阵。
进一步的,所述第一矩阵计算模块605,还用于:
获取第一系数;
根据所述第一系数、所述第一正交矩阵、所述第一正交矩阵的转置矩阵以及单位矩阵计算所述第二矩阵。
进一步的,所述第一矩阵计算模块605,还用于:
计算所述目标函数的梯度函数的矩阵的转置矩阵与所述第一正交矩阵的乘积得到第三矩阵;
对所述第三矩阵进行SVD分解得到第三矩阵的奇异值;
根据所述奇异值获取所述第一系数。
进一步的,所述第一矩阵计算模块605,还用于:
根据所述目标函数的梯度函数、所述第一正交矩阵、所述第一正交矩阵的转置矩阵计算第四矩阵;
计算所述第四矩阵的逆矩阵与所述第二矩阵的逆矩阵的和作为所述第一矩阵。
进一步的,所述参数更新模块606,还用于:
获取学习率参数;
计算所述学习率参数、所述第一矩阵以及所述目标函数的梯度的第一乘积;
计算所述参数与所述第一乘积的差值作为更新后的参数。
图6所示装置可以执行图所示实施例的方法,本实施例未详细描述的部分,可参考对图1-图4所示实施例的相关说明。该技术方案的执行过程和技术效果参见图1-图4所示实施例中的描述,在此不再赘述。
本公开实施例提供一种目标对象的分类装置。该装置可以执行上述目标对象的分类方法实施例中所述的步骤。如图7所示,该装置700主要包括:获取模块701和类别确定模块702。其中,
获取模块701,用于获取目标对象,所述目标对象包括图像、语音或文本之一;
类别确定模块702,用于利用目标对象分类模型确定所述目标对象的类别,其中所述目标对象分类模型的参数是通过以下方式确定的:初始化所述目标对象分类模型的参数;获取目标对象的样本集;将所述目标对象的样本集输入所述目标对象分类模型得到分类结果;根据目标函数计算所述分类结果与所述目标对象的样本的监督数据的误差;响应于所述误差大于第一阈值,根据所述目标函数的梯度函数的导数计算第一矩阵,其中所述第一矩阵中的元素为以所述参数为变量的函数;根据所述参数以及所述第一矩阵计算更新所述参数。
图7所示装置可以执行图所示实施例的方法,本实施例未详细描述的部分,可参考对图5所示实施例的相关说明。该技术方案的执行过程和技术效果参见图5所示实施例中的描述,在此不再赘述。
下面参考图8,其示出了适于用来实现本公开实施例的电子设备800的结构示意图。本公开实施例中的电子设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图8示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图8所示,电子设备800可以包括处理装置(例如中央处理器、图形处理器等)801,其可以根据存储在只读存储器(ROM)802中的程序或者从存储装置808加载到随机访问存储器(RAM)803中的程序而执行各种适当的动作和处理。在RAM 803中,还存储有电子设备800操作所需的各种程序和数据。处理装置801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
通常,以下装置可以连接至I/O接口805:包括例如触摸屏、触摸板、键盘、鼠标、图像传感器、麦克风、加速度计、陀螺仪等的输入装置806;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置807;包括例如磁带、硬盘等的存储装置808;以及通信装置809。通信装置809可以允许电子设备800与其他设备进行无线或有线通信以交换数据。虽然图8示出了具有各种装置的电子设备800,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置809从网络上被下载和安装,或者从存储装置808被安装,或者从ROM 802被安装。在该计算机程序被处理装置801执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:初始化所述目标对象分类模型的参数;获取目标对象的样本集;将所述目标对象的样本集输入所述目标对象分类模型得到分类结果;根据目标函数计算所述分类结果与所述目标对象的样本的监督数据的误差;响应于所述误差大于第一阈值,根据所述目标函数的梯度函数的导数计算第一矩阵,其中所述第一矩阵中的元素为以所述参数为变量的函数;根据所述参数以及所述第一矩阵计算更新所述参数。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开的一个或多个实施例,提供了一种目标对象的分类方法,其特征在于,所述方法包括:获取目标对象,所述目标对象包括图像、语音或文本之一;利用目标对象分类模型确定所述目标对象的类别,其中所述目标对象分类模型的参数是通过以下方式确定的:初始化所述目标对象分类模型的参数;获取目标对象的样本集;将所述目标对象的样本集输入所述目标对象分类模型得到分类结果;根据目标函数计算所述分类结果与所述目标对象的样本的监督数据的误差;响应于所述误差大于第一阈值,根据所述目标函数的梯度函数的导数计算第一矩阵,其中所述第一矩阵中的元素为以所述参数为变量的函数;根据所述参数以及所述第一矩阵计算更新所述参数。
进一步的,所述根据所述目标函数的梯度函数的导数计算第一矩阵,包括:对所述目标函数的梯度函数的导数进行QR分解得到第一正交矩阵;根据所述第一正交矩阵计算第一矩阵。
进一步的,所述根据所述第一正交矩阵计算第一矩阵,包括:将所述第一正交矩阵和所述参数作为所述目标函数的梯度函数中的变量;根据所述目标函数的梯度函数和第一正交矩阵计算所述第一矩阵。
进一步的,所述根据所述目标函数的梯度函数和第一正交矩阵计算所述第一矩阵,包括:根据所述第一正交矩阵和所述第一正交矩阵的转置矩阵计算第二矩阵;根据所述目标函数的梯度函数、所述第一正交矩阵、所述第一正交矩阵的转置矩阵以及所述第二矩阵计算所述第一矩阵。
进一步的,所述根据所述第一正交矩阵和所述第一正交矩阵的转置矩阵计算第二矩阵,包括:获取第一系数;根据所述第一系数、所述第一正交矩阵、所述第一正交矩阵的转置矩阵以及单位矩阵计算所述第二矩阵。
进一步的,所述获取第一系数,包括:计算所述目标函数的梯度函数的矩阵的转置矩阵与所述第一正交矩阵的乘积得到第三矩阵;对所述第三矩阵进行SVD分解得到第三矩阵的奇异值;根据所述奇异值获取所述第一系数。
进一步的,所述根据所述目标函数的梯度函数、所述第一正交矩阵、所述第一正交矩阵的转置矩阵以及所述第二矩阵计算所述第一矩阵,包括:根据所述目标函数的梯度函数、所述第一正交矩阵、所述第一正交矩阵的转置矩阵计算第四矩阵;计算所述第四矩阵的逆矩阵与所述第二矩阵的逆矩阵的和作为所述第一矩阵。
进一步的,所述根据所述参数以及所述第一矩阵计算更新所述参数,包括:获取学习率参数;计算所述学习率参数、所述第一矩阵以及所述目标函数的梯度的第一乘积;计算所述参数与所述第一乘积的差值作为更新后的参数。
根据本公开的一个或多个实施例,提供了一种目标对象分类模型的参数更新装置,包括:获取模块,用于获取目标对象,所述目标对象包括图像、语音或文本之一;类别确定模块,用于利用目标对象分类模型确定所述目标对象的类别,其中所述目标对象分类模型的参数是通过以下方式确定的:初始化所述目标对象分类模型的参数;获取目标对象的样本集;将所述目标对象的样本集输入所述目标对象分类模型得到分类结果;根据目标函数计算所述分类结果与所述目标对象的样本的监督数据的误差;响应于所述误差大于第一阈值,根据所述目标函数的梯度函数的导数计算第一矩阵,其中所述第一矩阵中的元素为以所述参数为变量的函数;根据所述参数以及所述第一矩阵计算更新所述参数。
根据本公开的一个或多个实施例,提供了一种电子设备,包括:存储器,用于存储非暂时性计算机可读指令;以及处理器,用于运行所述计算机可读指令,使得所述处理器执行时实现上述任一方法所述的步骤。
根据本公开的一个或多个实施例,提供了一种计算机可读存储介质,用于存储非暂时性计算机可读指令,当所述非暂时性计算机可读指令由计算机执行时,使得所述计算机执行上述任一方法中所述的步骤。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。