CN106446927A - 一种自步增强图像分类方法及系统 - Google Patents

Abstract

本发明公开一种自步增强图像分类方法及系统，包括如下步骤：S10：输入用于分类的图像数据及其类别标签，对数据进行特征提取；S20：基于增强学习和自步学习框架，建立数学模型；S30：迭代地更新模型的参数和模型的弱分类器集合，直至收敛；S40：对新输入的测试图像预测其类别。本发明的特点在于充分利用了增强学习方法和自步学习方法的内在一致性和互补性，使学习过程同时注重了分类模型的区分能力和参与学习的图像样本的可靠性，同时实现了有效学习和鲁棒学习。相比于传统的图像分类方法，本发明具有更高的分类准确率和对标签噪声的鲁棒性。

Description

一种自步增强图像分类方法及系统

技术领域

本发明涉及图像分类、自步学习和增强学习领域，具体涉及一种基于自步增强学习的图像分类方法及系统。

背景技术

随着网络和摄像机的普及，各种形式的图像数据呈爆炸性增长，从海量的图像数据中理解图像内容、挖掘有意义的模式并做出准确的类别预测的分类机器学习技术显得尤为重要。一般地，机器学习的两个基本原则是学习的有效性和学习的鲁棒性(稳健性)。一方面，图像数据特征的分布具有较高的复杂性和非线性；对此，有效学习要求所学的模型应能精确地反映数据的内在分布模式以实现准确的预测。另一方面，图像数据及其类别标注的来源广泛而多样，其中难免会包含带有标签噪声的样本和模式复杂、模糊的样本；对此，鲁棒学习要求模型能对噪声样本和模式复杂的样本不敏感，从而使学习侧重于可靠的样本，少受噪声样本和复杂样本的影响。具体地，噪声样本是类别标注错误的不该被学习的离群点，复杂样本对应着难以被当前模型空间学习的复杂分布模式。

有效学习的难点来自于图像特征分布的复杂性和非线性，增强学习方法基于此被提出。增强学习的基本思想在于将多个弱模型/弱学习器(仅比随机猜测稍好的学习器)整合成强模型/强学习器(准确率较高的学习器)，这些弱模型依次序列产生，且每个弱模型都侧重于拟合被前面的弱模型预测错误的样本。增强学习的优势在于它通过一个逐段的近似过程来逼近数据的复杂分布，从而充分拟合每个训练样本。然而，由于增强学习的每一步都针对当前被预测错误的样本，其会对有噪声的样本和模式复杂的样本很敏感，使模型拟合这些样本的优化过程会降低模型的泛化能力从而降低预测性能。因此，增强学习模型具有较高的判别力和有效性，但缺乏学习的鲁棒性。

鲁棒学习的目标是减小数据中的噪声样本和复杂样本对模型学习的影响。一般地，实现鲁棒学习依赖一个能区分可靠样本和噪声/复杂样本的样本选择机制，自步学习便是其中的代表。自步学习的思想在于使模型逐步地从易样本学习到难样本，即模仿人类的学习过程，从易到难地逐步将训练样本引入模型学习中。自步学习通过一个嵌入的自适应样本选取机制，平滑了模型学习的过程，使模型被引导至集中于可靠的判别性强的样本的模式，而不是噪声和复杂样本的模式，从而增强了学习的鲁棒性。

综上所述，增强学习和自步学习在具有思想上的一致性和方法上的互补性。对于一致性，两种方法都基于渐近式学习的思想，从一个弱的/简单的状态逐步学习到强的/复杂的状态。对于互补性，两种方法分别针对了机器学习的两个方面，即学习的有效性和鲁棒性。此外，两种学习方法致力于不同的方向，增强学习着重于负向抑制当前学习不充分的样本，而自步学习则以一个自适应的步调正向鼓励容易学的样本。因此，对于图像分类任务，增强学习和自步学习倾向于从彼此的思想中受益。

发明内容

本发明的目的在于提供一种有效和鲁棒的图像分类方法，结合增强学习和自步学习的优点，以同时实现学习的有效性和鲁棒性。该方法能够提高图像分类的准确率，同时能对训练数据中的标签噪声有较好的鲁棒性和容错能力。

为实现上述目的，本发明的技术方案为：

一种自步增强图像分类方法，包括如下步骤：

S10：输入用于分类学习的图像数据及其类别标签，对数据进行特征提取，得到可用于机器学习的图像样本特征；

S20：基于增强学习框架和自步学习框架，建立数学模型；

S30：根据所建立的数学模型，推导各参数的更新公式，迭代地更新模型的参数和模型的弱分类器集合，直至收敛，得到分类模型；

S40：根据所学习到的分类模型，对新输入的测试图像样本进行分类，输出预测的类别标签。

进一步的，步骤S20包括：

S201：基于增强学习框架构建模型的分类函数，基于自步学习框架构建模型的目标函数，并添加正则项作规范化。

进一步的，步骤S30包括：

S301：通过交替优化方法对模型的各参数迭代优化；

S302：每次迭代中，利用列生成法学习新的弱分类器以更新分类模型的弱分类器集合。

进一步的，所述的对图像数据进行特征提取所提取的特征为空间金字塔特征。

进一步的，当提取的特征为空间金字塔特征时，上述方法具体包括：

输入用于分类学习的图像数据及其类别标签，对已标注了类别标签的图像数据提取空间金字塔特征，得到训练数据集D＝{(x₁，y₁)，...，(x_n，y_n)}，其中，是第i个图像的空间金字塔特征，y_i∈{1，...，C}是第i个图像的类别(i＝1，...，n)，n是图像样本的个数，d是特征维度，C是类别的总数；

对训练数据集D，基于增强学习框架，构建分类函数：

其中，是一个二分类弱分类器；k是弱分类器的个数；w_rj≥0是待学习的参数；矩阵其中每一列w_r＝[w_r1，...，w_rk]^T；

基于自步学习框架，构建目标函数，并添加正则化项：

其中，L(·)是损失函数；v_i是样本i的自步学习权重；是自步学习函数，λ＞0为其参数；矩阵包含各弱分类器对各样本的输出，[H_ij]＝[h_j(x_i)]，H_i：表示H的第i行；R(W)是正则项；β＞0是预设定的权衡参数；

根据上述模型，推导各参数的更新公式，迭代地更新模型的参数和模型的弱分类器集合，直至收敛；

对新输入的测试图像，提取其空间金字塔特征x，其预测类别为：

y(x)＝argmax_{r∈{1，...，C}}F_r(x；W)。

本发明还包括上述的自步增强图像分类方法在图像分类问题中的应用。

另一方面，本发明提供了一种自步增强图像分类系统，包括如下模块：

数据预处理模块：用于输入用于分类学习的图像数据及其类别标签，对数据进行特征提取，输出可用于机器学习的图像样本特征；

建模模块：用于根据数据预处理模块输出的图像样本特征，基于增强学习框架和自步学习框架，建立分类数学模型；

参数更新模块：用于根据建模模块建立的数学模型，推导各参数的更新公式，迭代地更新模型的参数和模型的弱分类器集合，直至收敛，得到分类模型；

分类预测模块：用于根据参数更新模块输出的分类模型，对新输入的测试图像样本进行分类，输出预测的类别标签。

优选的，所述建模模块以增强学习为框架构建模型的分类函数，以自步学习为框架构建模型的目标函数，并添加正则项作规范化。

优选的，所述参数更新模块通过交替优化方法对模型的各参数迭代优化，并于每次迭代中利用列生成法学习新的弱分类器以更新分类模型的弱分类器集合。

本发明还包括上述的自步增强图像分类系统在图像分类问题中的应用。

本发明的图像分类方法及系统针对解决图像分类问题。一方面，图像数据特征的分布具有较高的复杂性和非线性；另一方面，图像数据及其类别标注的来源广泛而多样，使得图像数据难免具有噪声标签样本和模式复杂、模糊的样本。因此，图像分类问题对分类模型有较高的有效性和鲁棒性要求。基于此，本发明结合了具有很高有效性的增强学习和具有很高鲁棒性的自步学习的优点，充分利用了增强学习和自步学习的一致性和互补性，使学习的分类模型同时注重了对样本的区分能力和参与学习的样本的可靠性，同时增强了分类模型的有效性和鲁棒性。本发明克服了传统的分类方法单一注重有效学习或鲁棒学习的局限。相比于传统的图像分类方法，本发明具有更高的分类准确率和对标签噪声的鲁棒性。

附图说明

图1为本发明的自步增强图像分类方法的流程示意图。

图2为本发明的建模参数更新流程示意图。

图3为本发明的自步增强图像分类系统的模块结构框图。

具体实施方式

为使得本发明的发明目的、特征、优点能够更加的明显和易懂，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，下面所描述的实施例仅仅是本发明一部分实施例，而非全部实施例。基于本发明中的实施例，本领域的技术人员所获得的所有其他实施例，都属于本发明保护的范围。

本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的术语在适当情况下可以互换，这仅仅是描述本发明的实施例中对相同属性的对象在描述时所采用的区分方式。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，以便包含一系列单元的过程、方法、系统、产品或设备不必限于那些单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它单元。

以下分别进行详细说明。

本发明的一个实施示例提供了一种自步增强图像分类方法。

参照图1所示，本发明的一种自步增强图像分类方法，基于增强学习和自步学习框架构建和学习一个分类模型，据此可对新的测试样本输出其类别标签。具体包括如下步骤：

S10：输入用于分类学习的图像数据及其类别标签，对数据进行特征提取，得到可用于机器学习的图像样本特征；

S20：基于增强学习框架和自步学习框架建立数学模型；具体地，基于增强学习框架构建模型的分类函数，基于自步学习框架构建模型的目标函数，并添加正则项作规范化；

S30：根据所建立的数学模型，推导各参数的更新公式，迭代地更新模型的参数和模型的弱分类器集合，直至收敛，得到分类模型；

具体包括：S301：通过交替优化方法对模型的各参数迭代优化；

S302：每次迭代中，利用列生成法学习新的弱分类器以更新分类模型的弱分类器集合。

S40：根据所学习到的分类模型，对新输入的测试图像样本进行分类，输出预测的类别标签。

下面以图像的空间金字塔特征为例，对本发明的图像分类方法进行说明。其中，包括如下步骤：

S100：输入用于分类的图像数据及其类别标签，对其提取空间金字塔特征，记为训练数据集D＝{(x₁，y₁)，...，(x_n，y_n)}，其中，是第i个图像的空间金字塔特征，y_i∈{1，...，C}是第i个图像的类别(i＝1，...，n)，n是图像样本的个数，d是特征维度，C是类别的总数。

S200：对步骤S100所的得到的由图像特征和标签组成的训练集D，基于增强模型框架和自步学习框架，建立数学模型。具体地，建立数学模型如下：

首先，基于增强学习框架构建分类函数。将每个类别的分类函数F_r(·)(r＝1，...，C)形式化为弱分类器集合的线性组合：

其中，是一个二分类弱分类器；w_rj≥0是待学习的参数。矩阵其中每一列w_r＝[w_r1，...，w_rk]^T。

基于自步学习框架，建立数学模型的目标函数如下：

其中，L(·)是损失函数；v_i是样本i的自步学习权重；是自步学习函数，λ＞0为其参数；矩阵包含各弱分类器对各样本的输出，[H_ij]＝[h_j(x_i)]，H_i：表示H的第i行；R(W)是正则项；β＞0是预设定的权衡参数；W≥0表示W的每个元素都不小于0。

一般地，损失函数L(·)应为单调递减的凸函数；自步学习函数g(·；λ)应满足以下3个条件：(1)g(v_i；λ)关于v_i∈[0，1]是凸函数；(2)记其中则关于l_i单调递减；(3)关于λ单调递增。

以逻辑斯蒂损失函数、硬权重自步学习函数和l₁范数正则化为例，上述数学模型具体化如下：

其中，||W||₁＝∑_i，rw_ir；增强学习参数W和自步学习权重v是优化变量。

S300：对步骤S200建立的数学模型，利用交替优化方法对模型的参数迭代优化。算法的流程如图2所示，具体分为以下6步：

(1)初始化参数v，λ，初始化辅助变量矩阵初始化弱分类器集合B为空集：

(2)学习新的弱分类器以更新弱分类器集合B：

其中，在r＝y_i时取值1，在r≠y_i时取值0。

(3)通过凸优化方法更新增强学习参数W：

(4)更新辅助变量矩阵U：

(5)更新自步学习权重v：

其中

(6)若λ小于一个预设定上限λ_max，则增加λ：λ＝μλ(μ＞1)；否则，λ保持不变。μ＞1是预设定的递增倍数。

迭代进行(2)至(6)步，直至满足以下收敛条件：

其中，∈＞0是预设定的容忍门限。

S400：根据S300输出的参数W和弱分类器集合对新输入的图像样本，提取其空间金字塔特征x，输出其最大的分类函数值对应的类别，作为x的预测类别：

本发明的另一实施例为一种自步增强图像分类系统，如图3所示，包括数据预处理模块、建模模块、参数更新模块和分类预测模块。

其中，数据预处理模块输入用于分类学习的图像数据及其类别标签，对数据进行特征提取，输出可用于机器学习的图像样本特征；建模模块根据数据预处理模块输出的图像样本特征，基于增强学习框架和自步学习框架，建立数学模型；具体地，建模模块以增强学习为框架构建模型的分类函数，以自步学习为框架构建模型的目标函数，并添加正则项作规范化；参数更新模块根据建模模块建立的数学模型，推导各参数的更新公式，迭代地更新模型的参数和模型的弱分类器集合，直至收敛，输出分类模型；分类预测模块根据参数更新模块输出的分类模型，对新输入的测试图像样本进行分类，输出预测的类别标签。

作为进一步的优选方案，参数更新模块通过交替优化方法对模型的各参数迭代优化，并于每次迭代中利用列生成法学习新的弱分类器以更新分类模型的弱分类器集合。

本发明针对图像数据分布的复杂性以及含有复杂样本和标签噪声的问题，基于增强学习和自步学习框架构建图像分类数学模型，使分类模型同时注重了对样本的区分能力和参与学习的样本的可靠性，同时增强了模型的有效性和鲁棒性。本发明克服了传统的分类方法单一注重有效学习或鲁棒学习的局限，相比于传统的图像分类方法具有更高的分类准确率和对标签噪声的鲁棒性。

综上所述，以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照上述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对上述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (10)

1.一种自步增强图像分类方法，其特征在于，包括如下步骤：

S10：输入用于分类学习的图像数据及其类别标签，对数据进行特征提取，得到可用于机器学习的图像样本特征；

S20：基于增强学习框架和自步学习框架，建立数学模型；

S30：根据所建立的数学模型，推导各参数的更新公式，迭代地更新模型的参数和模型的弱分类器集合，直至收敛，得到分类模型；

S40：根据所学习到的分类模型，对新输入的测试图像样本进行分类，输出预测的类别标签。

2.如权利要求1所述的自步增强图像分类方法，其特征在于，步骤S20包括：

S201：基于增强学习框架构建模型的分类函数，基于自步学习框架构建模型的目标函数，并添加正则项作规范化。

3.如权利要求1所述的自步增强图像分类方法，其特征在于，步骤S30包括：

S301：通过交替优化方法对模型的各参数迭代优化；

S302：每次迭代中，利用列生成法学习新的弱分类器以更新分类模型的弱分类器集合。

4.如权利要求1-3任一项所述的自步增强图像分类方法，其特征在于，所述的对图像数据进行特征提取所提取的特征为空间金字塔特征。

5.如权利要求4所述的自步增强图像分类方法，其特征在于，包括：

输入用于分类学习的图像数据及其类别标签，对已标注了类别标签的图像数据提取空间金字塔特征，得到训练数据集D＝{(x₁，y₁)，...，(x_n，y_n)}，其中，是第i个图像的空间金字塔特征，y_i∈{1，...，C}是第i个图像的类别(i＝1，...，n)，n是图像样本的个数，d是特征维度，C是类别的总数；

对训练数据集D，基于增强学习框架，构建分类函数：

$F_r(x;W)=\underset{j=1}{\overset{k}{\Σ}}{w}_{rj}{h}_j\left(x\right),w_{rj}\≥0,r=1,...,C$

其中，是一个二分类弱分类器；k是弱分类器的个数；w_rj≥0是待学习的参数；矩阵其中每一列w_r＝[w_r1，...，w_rk]^T；

基于自步学习框架，构建目标函数，并添加正则化项：

$\underset{W,v}{min}\underset{i=1}{\overset{n}{\Σ}}{v}_i\underset{r=1}{\overset{c}{\Σ}}L\left({\mathrm{\ρ}}_{ir}\right)+\underset{i=1}{\overset{n}{\Σ}}g(v_i;\mathrm{\λ})+\mathrm{\β}R\left(W\right)$

$s.t.\∀i,r,{\mathrm{\ρ}}_{\mathrm{ir}}=H_{i:}{w}_{y_i}-H_{i:}{w}_r;W\≥0;v_i\∈\left[\mathrm{0,1}\right]$

其中，L(·)是损失函数；v_i是样本i的自步学习权重；是自步学习函数，λ>0为其参数；矩阵包含各弱分类器对各样本的输出，[H_ij]＝[h_j(x_i)]，H_i:表示H的第i行；R(W)是正则项；β>0是预设定的权衡参数；

根据上述模型，推导各参数的更新公式，迭代地更新模型的参数和模型的弱分类器集合，直至收敛；

对新输入的测试图像，提取其空间金字塔特征x，其预测类别为：

y(x)＝argmax_{r∈{1，...，C}}F_r(x；W)。

6.如权利要求1-5任一项所述的自步增强图像分类方法在图像分类问题中的应用。

7.一种自步增强图像分类系统，其特征在于，包括如下模块：

数据预处理模块：用于输入用于分类学习的图像数据及其类别标签，对数据进行特征提取，输出可用于机器学习的图像样本特征；

建模模块：用于根据数据预处理模块输出的图像样本特征，基于增强学习框架和自步学习框架，建立分类数学模型；

参数更新模块：用于根据建模模块建立的数学模型，推导各参数的更新公式，迭代地更新模型的参数和模型的弱分类器集合，直至收敛，得到分类模型；

分类预测模块：用于根据参数更新模块输出的分类模型，对新输入的测试图像样本进行分类，输出预测的类别标签。

8.如权利要求7所述的自步增强图像分类系统，其特征在于，所述建模模块以增强学习为框架构建模型的分类函数，以自步学习为框架构建模型的目标函数，并添加正则项作规范化。

9.如权利要求7或8所述的自步增强图像分类系统，其特征在于，所述参数更新模块通过交替优化方法对模型的各参数迭代优化，并于每次迭代中利用列生成法学习新的弱分类器以更新分类模型的弱分类器集合。

10.如权利要求7-9任一项所述的自步增强图像分类系统在图像分类问题中的应用。