CN104778479A - 一种基于稀疏编码提取子的图像分类方法及系统 - Google Patents

Abstract

本发明公开了一种基于稀疏编码提取子的图像分类方法及系统，通过将一个特征描述项集成到现有的判别型标签一致字典学习框架，提出一个统一的“编码+描述+分类”模型框架。模型通过最小化稀疏重构错误、特征描述错误、稀疏编码错误和分类错误，得到判别的稀疏编码，同时输出一个线性的稀疏编码提取子和一个多类分类器。稀疏编码提取子主要通过最小化图像数据之描述和其稀疏编码之间的拟合错误得到。通过计算一个稀疏编码提取子，可快速实现样本外图像数据的分类，无需引入额外的稀疏重构过程，有效提高了图像分类的精准度。分类过程主要通过线性分类器实现，输出测试样本的类别归属概率，取概率的最大值，用于类别鉴定，得到最准确的分类结果。

Description

一种基于稀疏编码提取子的图像分类方法及系统

技术领域

本申请涉及图像识别技术领域，特别是涉及一种基于稀疏编码提取子的图像分类方法及系统。

背景技术

随着计算机技术和智能化的不断发展，图像分类技术已经发展成为计算机视觉与模式识别中非常重要的一个研究课题。图像分类技术通过计算机将图像电子化，然后分析图像数据，获取图像数据的特征，在很多领域有着重大的意义，一旦研究成功并投入应用，将产生巨大的社会和经济效益。但是抽取图像特征的过程具有一定难度，其中的主要难点是快速获取具有高效表征能力的稀疏编码。目前的大部分研究工作都集中在处理图像特征提取问题，且也已取得一定的成果。但是真实世界中图像通常包含破坏、丢失数据，因此如何快速获得具有高效表征能力的稀疏编码用来提取图像的特征是需要深入探讨的问题。

近年来，K-SVD和D-KSVD(Discriminative K-SVD)等经典的字典学习算法可通过学习一个重构的字典，训练得到数据集的稀疏编码来表征数据的特征，并计算得到线性分类器，可对数据进行分类。但当选取的训练数据样本较少时，数据的特征未能精确的表征，所以分类的精度很低。为了克服此缺点，它们的推广LC-KSVD(Label ConsistentK-SVD)被提出。已知全部数据样本的标签，LC-KSVD在学习判别的可重构字典时，有效的保持字典各项与数据标签的内在联系，使得即使训练样本较少，通过学到的字典训练得到的稀疏编码也能最大程度的表征数据的特征，从而通过计算得到的线性分类器精确的对图像数据进行分类。LC-KSVD目标是引用额外的稀疏重构过程，分类过程较慢且不能最大程度地表征用于测试的图像的特征，达到精确分类的目的。

因此，提供一种直接从测试图像样本获得其稀疏编码的方法及系统而无需引用额外的稀疏重构过程，实现快速提高图像分类的准确度，是本领域技术人员亟待解决的问题。

发明内容

有鉴于此，本申请提供了一种基于稀疏编码提取子的图像分类方法及系统，以克服现有技术中需引入额外稀疏重构过程，而不能快速的直接从测试数据获得稀疏编码提取测试数据的特征以最大化分类精度的问题。

为解决上述技术问题，本申请提供一种基于稀疏编码提取子的图像分类方法，包括：

对原始训练集X中训练样本进行标签一致的字典与嵌入学习，得到稀疏编码提取子P；利用所述稀疏编码提取子P，优化得到线性多类分类器W；

利用所述稀疏编码提取子P，对测试样本x_new的显著特征进行提取，表征所述测试样本x_new的稀疏编码s_new，为下一步分类测试做好准备；

将所述测试样本x_new的数据特征输入到所述线性多类分类器W进行分类，输出所述测试样本x_new的类别归属概率，选取归属概率最大值对应的类别为所述测试样本x_new的类别，以得到最准确的分类。

优选的，利用以下训练模型对原始训练集X中训练样本进行标签一致的字典与嵌入学习，得到稀疏编码提取子P；利用所述稀疏编码提取子P，优化得到线性多类分类器W：

$<D,S,P,W,A,G>=\arg \underset{D,S,P,W,A,G}{\min }{\left|\right|\mathrm{GX}-\mathrm{DS}\left|\right|}_F^2+\mathrm{\&alpha;}{\left|\right|Q-\mathrm{AS}\left|\right|}_F^2+\mathrm{\&gamma;}{\left|\right|\mathrm{PX}-S\left|\right|}_F^2+\mathrm{\&beta;}{\left|\right|H-\mathrm{WPX}\left|\right|}_F^2$

其中，是学习得到的重构字典，K是重构字典D的维度，是原始训练集的稀疏编码，和是投影矩阵，表示稀疏重构错误，表示判别稀疏编码错误，α是该项的权衡参数，表示特征描述错误，γ是该项的权衡参数，为分类错误，β是该项的权衡参数。

优选的，通过公式s_new＝Px_new计算得到所述测试样本x_new的稀疏编码s_new。

本申请还提供了一种基于稀疏编码提取子的图像分类系统，包括：

训练模块，用于对原始训练集X中训练样本进行标签一致的字典与嵌入学习，得到稀疏编码提取子P；利用所述稀疏编码提取子P，优化得到线性多类分类器W；

测试预处理模块，用于利用所述稀疏编码提取子P，对测试样本x_new的显著特征进行提取，表征所述测试样本x_new的稀疏编码s_new，为下一步分类测试做好准备；

测试模块，用于将所述测试样本x_new的数据特征输入到所述线性多类分类器W进行分类，输出所述测试样本x_new的类别归属概率，选取归属概率最大值对应的类别为所述测试样本x_new的类别，以得到最准确的分类。

以上本申请提供的一种基于稀疏编码提取子的图像分类方法及系统中，通过将图像数据的特征描述正则化项集成到现有的判别型标签一致字典学习框架，提出一个统一的“编码+描述+分类”模型框架：对图像数据利用该模型进行训练，得到一个线性的稀疏编码提取子和线性多类分类器；利用稀疏编码提取子，对测试样本的显著特征进行提取，表征测试样本的稀疏编码，为下一步分类测试做好准备；进而利用测试样本的数据特征使用得到的线性多类分类器进行分类，输出测试样本的类别归属概率，取概率最大值，用于图像类别的鉴定，得到最准确的分类。通过提出稀疏编码提取子，克服现有技术中引入额外的稀疏重构过程，不能直接从测试数据获得稀疏编码提取测试数据的特征以最大化分类精度的问题。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。

图1为本申请一种基于稀疏编码提取子的图像分类方法实施例1的流程图；

图2为本申请一种基于稀疏编码提取子的图像分类方法实施例1的样本外图像类别预测及分类示意图；

图3为本申请一种基于稀疏编码提取子的图像分类系统实施例1的结构框图示意图。

具体实施方式

下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

本申请的核心是提供一种基于稀疏编码提取子的图像分类方法及系统，以克服现有技术中需引入额外稀疏重构过程，而不能快速的直接从测试数据获得稀疏编码提取测试数据的特征以最大化分类精度的问题。

为了使本技术领域的人员更好地理解本申请方案，下面结合附图和具体实施方式对本申请作进一步的详细说明。

本发明公开了一种基于稀疏编码提取子的图像分类方法及系统，通过对图像数据使用所述方法，得到一个线性的稀疏编码提取子和线性的多类图像分类器；利用所述稀疏编码提取子，对测试图像样本的显著特征进行提取，表征测试图像样本的稀疏编码，为下一步分类测试做好准备；进而利用测试图像样本的特征使用得到的线性多类图像分类器进行分类，输出测试样本的类别归属概率，取概率最大值，用于图像类别的鉴定，得到最准确的分类。通过提出稀疏编码提取子，对于输入的测试图像样本，可快速实现样本外数据的分类，不需要引入额外的稀疏重构过程，有效提高了图像分类的精准度。

本发明在2个图像数据的数据库进行了测试：Isolet spoken letterrecognition和AR face images。此两个数据集的描述如下：

本发明选取Isolet spoken letter recognition数据库中Isolet2和Isolet5进行测试。这些数据库从多方面收集，因而测试结果具有普遍说明性。

参考图1，示出了本申请一种基于稀疏编码提取子的图像分类方法实施例1的流程图，该方法具体可以包括如下步骤：

步骤S100、对原始训练集X中训练样本进行标签一致的字典与嵌入学习，得到稀疏编码提取子P；利用所述稀疏编码提取子P，优化得到线性多类分类器W；

通过将原始训练集中图像数据进行标签一致的字典与嵌入学习，计算得到一个线性的稀疏编码提取子P，可用于图像样本特征的提取，进而表征训练样本的稀疏编码；利用所述稀疏编码提取子P，优化得到一个线性的多类图像分类器W，用于样本内和样本外图像数据的处理。

步骤S101、利用所述稀疏编码提取子P，对测试样本x_new的显著特征进行提取，表征所述测试样本x_new的稀疏编码s_new，为下一步分类测试做好准备；其中，

本申请中，将所述测试图像样本x_new嵌入到所述稀疏编码提取子P，通过公式s_new＝Px_new计算得到所述测试样本x_new的稀疏编码s_new。

步骤S102、将所述测试样本x_new的数据特征输入到所述线性多类分类器W进行分类，输出所述测试样本x_new的类别归属概率，选取归属概率最大值对应的类别为所述测试样本x_new的类别，以得到最准确的分类。

具体地，利用稀疏编码提取子P和多类线性分类器W，对于测试样本x_new，利用Px_new将x_new嵌入稀疏编码提取子P来获得x_new的稀疏系数s_new，x_new的软标签可被归类为：

其中，s_new＝Px_new

其中向量f_new中最大元素的位置就是x_new的类别。

为了便于本领域技术人员直观地理解本申请的技术方案，参考图2，示出了本申请一种基于稀疏编码提取子的图像分类方法实施例1的样本外图像类别预测及分类示意图。

本发明公开了一种基于稀疏编码提取子的图像分类方法及系统，通过将一个特征描述正则化项集成到现有的判别型标签一致字典学习框架，提出一个统一的“编码+描述+分类”模型框架。模型通过最小化稀疏重构错误、特征描述错误、稀疏编码错误和分类错误，可计算得到判别的稀疏编码，同时可以得到一个线性的稀疏编码提取子和一个线性的多类分类器。稀疏编码提取子主要通过在模型训练过程中最小化图像数据之描述和其稀疏编码之间的拟合错误。测试图像分类主要通过计算得到的线性分类器实现，输出测试样本的类别归属概率，取概率的最大值，用于图像类别的鉴定，得到最准确的分类结果。

本申请中，步骤S100中，利用以下训练模型对原始训练集X中训练样本进行标签一致的字典与嵌入学习，得到稀疏编码提取子P；利用所述稀疏编码提取子P，优化得到线性多类分类器W。

具体地，给定原始训练集为图像数据向量集合(其中，n是训练样本的维度，N是样本的数量)，其中包含有c个类别标签(c>2)。所述“编码+描述+分类”模型为：

$<D,S,P,W,A,G>=\arg \underset{D,S,P,W,A,G}{\min }{\left|\right|\mathrm{GX}-\mathrm{DS}\left|\right|}_F^2+\mathrm{\&alpha;}{\left|\right|Q-\mathrm{AS}\left|\right|}_F^2+\mathrm{\&gamma;}{\left|\right|\mathrm{PX}-S\left|\right|}_F^2+\mathrm{\&beta;}{\left|\right|H-\mathrm{WPX}\left|\right|}_F^2$

其中，是学习得到的重构字典，K是重构字典D的维度，是原始训练集的稀疏编码，和是投影矩阵，表示稀疏重构错误，表示判别稀疏编码错误，α是该项的权衡参数，表示特征描述错误，γ是该项的权衡参数，为分类错误，β是该项的权衡参数。稀疏编码中，s.t.||s_i||₀≤T₁,i∈{j|j＝1,2,…,N}，其中，T₁是稀疏约束；

是训练得到的分类器，W的分类精确度取决于稀疏编码提取子提取稀疏编码的判别力，而稀疏编码提取子P的表征能力取决于稀疏编码S的判别力。是训练数据集的类别标签矩阵，中非零项所在的列数是训练样本x_i的类别标签，m是类别数量。

其中，由于原始数据集可能包含一些噪声影响特征提取的结果，G用来嵌入原始数据集X到一个变换特征间；是判别稀疏编码，q_i是输入向量x_i的稀疏编码，当训练样本x_i和x_j属于不同类别时，这两个训练样本在Q中对应的项为0，反之，为sim(x_i,x_j)。sim(i,j)表示x_i和x_j的相似度，可通过计算cos(x_i,x_j)得到。

例如，包含3个类别的数据，x_1,x₂属于类别1，x₃,x_4,x₅属于类别2，x_6,x₇属于类别3，Q可定义为：

$Q=\left[\begin{array}{ccccccc}\mathrm{sim}\left(\mathrm{1,1}\right)& \mathrm{sim}\left(\mathrm{1,2}\right)& 0& 0& 0& 0& 0\\ \mathrm{sim}\left(\mathrm{2,1}\right)& \mathrm{sim}\left(\mathrm{2,2}\right)& 0& 0& 0& 0& 0\\ 0& 0& \mathrm{sim}\left(\mathrm{3,3}\right)& \mathrm{sim}\left(\mathrm{3,4}\right)& \mathrm{sim}\left(\mathrm{3,5}\right)& 0& 0\\ 0& 0& \mathrm{sim}\left(\mathrm{4,3}\right)& \mathrm{sim}\left(\mathrm{4,4}\right)& \mathrm{sim}\left(\mathrm{4,5}\right)& 0& 0\\ 0& 0& \mathrm{sim}\left(\mathrm{5,3}\right)& \mathrm{sim}\left(\mathrm{5,4}\right)& \mathrm{sim}\left(\mathrm{5,5}\right)& 0& 0\\ 0& 0& 0& 0& 0& \mathrm{sim}\left(\mathrm{6,6}\right)& \mathrm{sim}\left(\mathrm{6,7}\right)\\ 0& 0& 0& 0& 0& \mathrm{sim}\left(\mathrm{7,6}\right)& \mathrm{sim}\left(\mathrm{7,7}\right)\end{array}\right]$

解决该问题应通过交替更新变量的方法。具体方法为，通过字典学习方法计算出稀疏编码，然后获得稀疏编码提取子P与线性分类器W。利用字典学习的方法得到稀疏编码过程如下：

假定β＝0，当P和G已知时，目标函数为

$<D,S,A>=\arg \underset{D,S,A}{\min }{\left|\right|\mathrm{GX}-\mathrm{DS}\left|\right|}_F^2+\mathrm{\&alpha;}{\left|\right|Q-\mathrm{AS}\left|\right|}_F^2+\mathrm{\&gamma;}{\left|\right|\mathrm{PX}-S\left|\right|}_F^2$

s.t.||s_i||₀≤T₁,i∈{j|j＝1,2…N}，

该方程可被重新表示为：

$<D,S,A>=\arg \underset{D,S,A}{\min }{\left|\right|\left(\begin{array}{c}\mathrm{GX}\\ \sqrt{\mathrm{\&alpha;}}Q\\ \sqrt{\mathrm{\&gamma;}}\mathrm{PX}\end{array}\right)-\left(\begin{array}{c}D\\ \sqrt{\mathrm{\&alpha;}}A\\ \sqrt{\mathrm{\&gamma;}}{I}^K\end{array}\right)S\left|\right|}_F^2$

Subj||s_i||₀≤T₁,i∈{j|j＝1,2,...,N}

假定 $X_{\mathrm{new}}={({\left(\mathrm{GX}\right)}^T,\sqrt{\mathrm{\&alpha;}}{Q}^T,\sqrt{\mathrm{\&gamma;}}{\left(\mathrm{PX}\right)}^T)}^T,D_{\mathrm{new}}={(D^T,\sqrt{\mathrm{\&alpha;}}{A}^T,\sqrt{\mathrm{\&gamma;}}{I}^K)}^T,$ 假设D_new是l₂-范数列向量，目标函数可改写为：

$<D_{\mathrm{new}},S>=\arg \underset{D_{\mathrm{new}},S}{\min }\left\{{\left|\right|X_{\mathrm{new}}-D_{\mathrm{new}}S\left|\right|}_F^2\right\}$

$s.t.\&ForAll;i,{\left|\right|x_i\left|\right|}_0\&le;T_1,i\&Element;\left\{j\right|j=\mathrm{1,2},...,N\}$

该问题可以归结为K-SVD问题，可以有效的利用K-SVD算法找到最优解。计算得到D和S后，假定Iⁿ是n维单位矩阵，可通过如下模型获得G：

$\underset{G}{\mathrm{Min}}{\left|\right|\mathrm{GX}-\mathrm{DS}\left|\right|}_F^2+\mathrm{\&lambda;}{\left|\right|G\left|\right|}_F^2,G^{*}={\mathrm{DSX}}^T{({\mathrm{XX}}^T+\mathrm{\&lambda;}{I}^n)}^{-1}$

获得稀疏编码提取子P和线性分类器W过程如下：

通过出掉目标函数中与P、W不相关的项，可得如下目标函数：

$<P,W>=\arg \underset{P,W}{\min }\mathrm{\&gamma;}{\left|\right|\mathrm{PX}-S\left|\right|}_F^2+\mathrm{\&beta;}{\left|\right|H-\mathrm{WPX}\left|\right|}_F^2,$

令偏导数可通过如下函数更新P：

P＝(γI^K+βW^TW)^-1(γSX^T+βW^THX^T)(XX^T)^-1,

令偏导数可通过如下函数更新W：

W＝HX^TP^T(PXX^TP^T)^-1。

与上述本申请一种基于稀疏编码提取子的图像分类方法实施例1相对应，本申请还提供了一种基于稀疏编码提取子的图像分类系统实施例1，参考图3，该系统300可以包括如下内容：

训练模块301，用于对原始训练集X中训练样本进行标签一致的字典与嵌入学习，得到稀疏编码提取子P；利用所述稀疏编码提取子P，优化得到线性多类分类器W；

测试预处理模块302，用于利用所述稀疏编码提取子P，对测试样本x_new的显著特征进行提取，表征所述测试样本x_new的稀疏编码s_new，为下一步分类测试做好准备；

测试模块303，用于将所述测试样本x_new的数据特征输入到所述线性多类分类器W进行分类，输出所述测试样本x_new的类别归属概率，选取归属概率最大值对应的类别为所述测试样本x_new的类别，以得到最准确的分类。

参阅表2，为本发明方法和SRC(Sparse Representation-basedClassification)、KSVD、DKSVD(Discriminative K-SVD)、LLC(Locality-constrained Linear Coding)、LC-KSVD1和LC-KSVD2(Label Consistent K-SVD)方法在AR数据集随机选取面部特征的识别结果对比表，给出了各方法实验的精度。本例中，参与比较的SRC、KSVD、DKSVD、LLC、LC-KSVD1和LC-KSVD2方法(采用各文献中算法使用的默认参数)使用各自得到的稀疏编码用于图像数据的特征提取，且分类均采用线性分类器。

请参阅表3以及表4，为本发明方法和SRC、KSVD、DKSVD、LLC、LC-KSVD1以及LC-KSVD2方法用AR-men以及AR-women数据集的主要面部特征识别结果对比。

表2.AR数据集随机选取面部特征识别结果对比

实验方法	精度
		SRC	66.5％
KSVD	86.5％

DKSVD	88.8％
		LLC(30local bases)	69.5％
LLC(70local bases)	88.7％
		LC-KSVD1	92.5％
LC-KSVD2	93.7％
		本发明方法(15类)	94.1％
本发明方法(20类)	96.2％

表3.AR-men数据集主要面部特征识别结果对比

表4.AR-women数据集主要面部特征识别结果对比

通过AR真实数据集上的实例实验结果显示，本发明方法视觉上地可有效用于图像数据分类。

通过实验结果我们可以看出本发明的图像识别分类效果明显优于相关的SRC、KSVD、DKSVD、LLC、LC-KSVD1以及LC-KSVD2方法，且表现出了较强的稳定性，具有一定的优势。

综上：本发明公开了一种基于稀疏编码提取子的图像分类方法及系统，通过将一个特征描述正则化项集成到现有的判别型标签一致字典学习框架，提出一个统一的“编码+描述+分类”模型框架。利用该模型对图像数据进行标签一致的字典和嵌入学习，通过最小化稀疏重构错误、特征描述错误、稀疏编码错误和分类错误，可计算得到判别的稀疏编码，同时可以得到一个线性的稀疏编码提取子和一个线性的多类分类器。稀疏编码提取子可用来提取测试图像数据的特征，表征测试数据的稀疏编码，且可在模型训练过程中最小化图像数据之描述和其稀疏编码之间的拟合错误。测试图像分类主要通过计算得到的线性分类器实现，输出测试样本的类别归属概率，取概率的最大值，用于图像类别的鉴定，得到最准确的分类结果。通过提出稀疏编码提取子，对于输入的测试图像样本，可快速实现样本外数据的分类，不需要引入额外的稀疏重构过程，有效提高了图像分类的精准度。

需要说明的是，本说明书中的各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同相似的部分互相参见即可。对于系统类实施例而言，由于其与方法实施例基本相似，所以描述得比较简单，相关之处参见方法实施例的部分说明即可。

以上对本申请所提供的一种基于稀疏编码提取子的图像分类方法及系统进行了详细介绍。本文中应用了具体个例对本申请的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本申请的方法及其核心思想。应当指出，对于本技术领域的普通技术人员来说，在不脱离本申请原理的前提下，还可以对本申请进行若干改进和修饰，这些改进和修饰也落入本申请权利要求的保护范围内。

Claims (4)

1.一种基于稀疏编码提取子的图像分类方法，其特征在于，包括：

对原始训练集X中训练样本进行标签一致的字典与嵌入学习，得到稀疏编码提取子P；利用所述稀疏编码提取子P，优化得到线性多类分类器W；

利用所述稀疏编码提取子P，对测试样本x_new的显著特征进行提取，表征所述测试样本x_new的稀疏编码s_new，为下一步分类测试做好准备；

将所述测试样本x_new的数据特征输入到所述线性多类分类器W进行分类，输出所述测试样本x_new的类别归属概率，选取归属概率最大值对应的类别为所述测试样本x_new的类别，以得到最准确的分类。

2.如权利要求1所述的方法，其特征在于，利用以下训练模型对原始训练集X中训练样本进行标签一致的字典与嵌入学习，得到稀疏编码提取子P；利用所述稀疏编码提取子P，优化得到线性多类分类器W：

$\&lang;D,S,P,W,A,G\&rang;=\arg \underset{D,S,P,W,A,G}{\min }{\left|\right|\mathrm{GX}-\mathrm{DS}\left|\right|}_F^2+\mathrm{\&alpha;}{\left|\right|Q-\mathrm{AS}\left|\right|}_F^2+\mathrm{\&gamma;}{\left|\right|\mathrm{PX}-S\left|\right|}_F^2+\mathrm{\&beta;}{\left|\right|H-\mathrm{WPX}\left|\right|}_F^2$

其中，是学习得到的重构字典，K是重构字典D的维度，是原始训练集的稀疏编码，和是投影矩阵，表示稀疏重构错误，表示判别稀疏编码错误，α是该项的权衡参数，表示特征描述错误，γ是该项的权衡参数，为分类错误，β是该项的权衡参数。

3.如权利要求1所述的方法，其特征在于，通过公式s_new＝Px_new计算得到所述测试样本x_new的稀疏编码s_new。

4.一种基于稀疏编码提取子的图像分类系统，其特征在于，包括：

训练模块，用于对原始训练集X中训练样本进行标签一致的字典与嵌入学习，得到稀疏编码提取子P；利用所述稀疏编码提取子P，优化得到线性多类分类器W；

测试预处理模块，用于利用所述稀疏编码提取子P，对测试样本x_new的显著特征进行提取，表征所述测试样本x_new的稀疏编码s_new，为下一步分类测试做好准备；

测试模块，用于将所述测试样本x_new的数据特征输入到所述线性多类分类器W进行分类，输出所述测试样本x_new的类别归属概率，选取归属概率最大值对应的类别为所述测试样本x_new的类别，以得到最准确的分类。