CN102915448A - 一种基于AdaBoost的三维模型自动分类方法 - Google Patents

Abstract

本发明提供了一种基于AdaBoost的三维模型自动分类方法，计算三维模型中任意两顶点的近似测地距离，根据计算出的三维模型任意两个顶点的近似测地距离组成一个三维模型的仿射矩阵，采用

近似的方法模拟包含所有顶点关系的仿射矩阵，用Jacobi方法特征分解该仿射矩阵，将得到的特征值按从大到小的顺序排列，取第2个至第21个共20个特征值作为三维模型的描述符，使用AdaBoost方法对三维模型进行分类。本发明可以实现三维模型的自动特征提取并利用特征进行三维模型的自动分类，和现有分类方法相比较具有分类精度高，适用范围广的特点。

Description

一种基于AdaBoost的三维模型自动分类方法

技术领域

本发明涉及一种三维模型的自动分类方法。

背景技术

作为继声音、图像和视频之后的第四代多媒体数据类型，三维模型是最直观、最具表现力的多媒体信息。随着激光扫描技术及网络技术的快速发展，三维模型的创建和应用越来越广泛，三维模型资源越来越丰富。企业产品类型及品种的增多、产品数据规模的膨胀，使得产品设计中三维模型的分类研究具有重要的理论与工程意义。而基于形状的三维模型分类作为计算机图形学领域的一个新兴研究热点，在工业产品的模型设计、虚拟现实、模拟仿真、3D游戏、计算机视觉、分子生物学和三维地理信息等各个领域获得了广泛的应用。

在目前国内外公开的文献中，在Z.Barutcuoglu and C.Decoro,“Hierarchicalshape classification using Bayesian aggregation”,IEEE InternationalConference on Shape Modeling and Applications,2006.中提出了基于Bayesianaggregation的分类方法，对语义层次结构中的三维模型进行分类。在层次结构模型中，使用相对独立的分类器对每一类进行分类，产生的分类结果将会与层次结构中“父-子”关系发生分歧。为了保持一致，一个举例图形必须不能被分为一类，除非这个图形已经在层次结构中被分为“父”类。在给定的用于一个任意形状描述符的一些独立的分类器的情况下，把它们每一个的很可能不一致的分类结果结合起来，然后在贝叶斯的框架下获得一组最具有一致性的分类结果。这样的错误改正可以通过利用分层结构来提高整个分类结果的精度。在Z.Liu,J.Mitani,Y.Fukui and S.Nishihara,“A 3D shape classifier with neural network supervision”,InternationalJournal of Computer Applications in Technology,Vol.38,No.1-3,2010.中提出了基于监督型神经网络的三维模型分类方法，该方法该提供了一种基于监督点空间的密度分布的三维图形分类器。首先通过特征化点空间的密度分布提取出低阶的特征样本，然后训练一个前馈控制的神经网络来学习这些特征，从而获得一个有效的分类器。此分类器分为两个阶段，分别为用于训练数据的训练阶段和评估分类效果的测试阶段。而需要注意的是分类器的精度不仅和每个样本的权重相关，而且和神经网络中的隐藏阶层的隐藏单元个数息息相关。隐藏单元个数不同，分类精度也会有很大差别。因此在训练分类器时，选择最恰当的隐藏单元个数是非常有必要的。

但上述两种三维模型分类方法有几点不足：

（1）基于Bayesian aggregation的三维模型分类方法主要是针对属于层次结构中的三维模型进行分类，具有一定的局限性，适用范围较小；

（2）基于神经网络的三维模型分类方法分类精度较低，分类的正确率较低。

发明内容

为了克服现有技术分类范围局限和精度较低的不足，本发明提供的一种三维模型自动分类方法，可以对Halfedge结构的三维模型或CAD模型进行自动特征提取与分类，可以对同一模型的不同姿态或大小进行提取出基本相同的特征，然后将模型的特征进行训练和测试，得到了高精度的分类结果。

本发明解决其技术问题所采用的技术方案包括以下步骤：

（1）计算三维模型中任意两顶点的近似测地距离，其中，任意相邻两顶点采用欧氏距离作为它们的近似测地距离，任意不相邻两顶点的近似测地距离采用Dikstra算法计算；

（2）根据计算出的三维模型任意两个顶点的近似测地距离组成一个三维模型的仿射矩阵，仿射矩阵的行数和列数都是三维模型的顶点数，仿射矩阵中任一元素指的是以该元素所在的行和列为顶点索引号的两个顶点的近似测地距离进行高斯化后的值；

（3）采用

近似的方法模拟包含所有顶点关系的仿射矩阵，用Jacobi方法特征分解该仿射矩阵，将得到的特征值按从大到小的顺序排列，取第2个至第21个共20个特征值作为三维模型的描述符；

（4）根据步骤（3）中得到的三维模型的描述符，使用AdaBoost方法对三维模型进行分类。

本发明的有益效果是：

本发明实现了一种三维模型的分类方式，该方法可以实现三维模型的自动特征提取并利用特征进行三维模型的自动分类，和现有分类方法相比较具有分类精度高，适用范围广的特点。

本发明之所以具有上述的有益效果其原因在于：针对任意三维模型采用谱嵌入的方法得到一种三维模型的描述符。该谱嵌入是基于以近似测地线距离为基础构造出仿射矩阵的特征值，这一过程称为姿态无关变换，即可获得一种对三维物体的刚性变换、均匀缩放、姿态变换（如弯曲等）保持不变的标准化谱嵌入。谱嵌入得到的特征值即为三维模型的描述符，将通过上述谱嵌入方法获得的三维形状描述符作为分类特征，利用Adaboost算法对三维模型进行分类。AdaBoost算法针对不同的训练集训练同一个基本分类器（弱分类器），然后把这些在不同训练集上得到的弱分类器聚合，构成一个更强的最终的分类器（强分类器）。因此该强分类器具有最小的误差率，使用该分类器进行三维模型分类可以获得很高的分类精度。

附图说明

图1为该发明实现的总流程图；

图2为三维模型特征提取的流程图；

图3为AdaBoost方法训练分类器的流程图；

图4为AdaBoost方法测试分类器的流程图；

图5为实例的分类精度的统计直方图。

具体实施方式

本发明包括以下步骤：

（1）计算三维模型中任意两顶点的近似测地距离。三维模型由许多顶点构成，任意相邻两顶点采用欧氏距离作为它们的近似测地距离，任意不相邻两顶点的近似测地距离采用Dikstra算法计算。

（2）根据计算出的三维模型任意两个顶点的近似测地距离组成一个三维模型的仿射矩阵，仿射矩阵的行数和列数都是三维模型的顶点数，仿射矩阵中任一元素指的是以该元素所在的行和列为顶点索引号的两个顶点的近似测地距离进行高斯化后的值。

（3）采用

近似的方法来有效地模拟包含所有顶点关系的仿射矩阵的特征值和特征向量。通过该方法可以提高计算效率，节省时间。

近似是一种基于子采样的技术。在三维模型的所有顶点中选用最远点采样的方式进行采样，即每次采样时都选取到之前的采样点的近似测地距离最大的点。这样做可以尽量使采样点分布在模型尖端的尖点上，而且使最终的近似最大限度地接近原来的值，从而达到模拟的效果。利用采样点之间的近似测定距离建立一个包含所有采样点之间关系的仿射矩阵，最后用Jacobi方法特征分解该仿射矩阵，将得到的特征值按从大到小的顺序排列，由于通过采样仿射矩阵特征分解求得的特征值具有一个特性就是衰减得很快，且第一个特征值偏差较大，故取第2个至第21个共20个特征值作为三维模型的描述符。

（4）使用AdaBoost方法对三维模型进行分类。将步骤（3）中得到的三维模型的特征值作为样本进行分类。将每一类模型的特征值等分为两部分，一部分作为训练集样本，另一部分作为测试集样本。训练集是一个包含所有需要分类的模型的特征值和类别标签的集合,通过在训练集上运行一段机器学习程序，即可得到一个分类器，该分类器即为运行过后的该段机器学习程序。而测试集也是一个包含不同类模型的特征值和类别标签的集合，它是用来测试分类器的分类效果。在AdaBoost方法中，每一个训练样本都被赋予一个权重，表明它被某个分量分类器选入训练集的概率。如果某个样本点已经被准确地分类，那么在构造下一个训练集中，它被选中的概率就降低；相反，如果某个样本点没有被正确地分类，那么它的权重就得到提高。通过这样的方式，AdaBoost方法能够聚焦于那些分类较困难的样本上。在具体实现上，最初令每个样本的权重都相等。对于第t次迭代操作，我们就根据这些权重来选取样本点，进而训练分类器h_t。然后就根据这个分类器，来提高被它错分的那些样本点的权重，并降低可以被正确分类的样本权。然后，权重更新过的样本集被用来训练下一个分类器h_t+1。整个训练过程如此进行下去。本发明训练和测试时，都是把某一类形状的特征值和剩余其它类形状的特征值分别贴上两类不同的标签进行二分类，然后循环多次直至所有类别分类完成。训练时，对训练集进行连续多次迭代分类直至分类误差为最小，就获得了一个最终的强分类器。测试时，使用该强分类器对测试集进行测试分类，分类结果即为形状的标签，如果标签与被测试形状的标签一致即为正确分类，反之则为错误分类。分析分类结果，即统计每一类中正确分类的模型数和错误分类的模型数，然后计算每一类正确的模型数占总模型数的百分比，该百分比就是分类精度。

下面结合附图和实施例对本发明进一步说明。

首先附图1展示了本发明实现三维模型自动特征提取与分类的总流程，该总流程图包含了实现最终分类所需的各个主要步骤。本发明的目的是通过提取三维模型的特征进行自动分类，分类器通过程序来实现，对于读入提供的三维模型的文件，提取相应的三维模型测地线特征，然后利用Adaboost的学习方法进行训练，获取一个自动分类器。

下面是具体的实现步骤。

一、三维模型任意两个顶点的测地距离的计算

三维模型由网格进行表达，网格由有顶点、边、多边形构成。其中，本发明通过特征化顶点距离来实现的，因此任意相邻两顶点之间的距离采用近似测地距离来表达，公式的形式如下

$L_2(x,y)={\left[\underset{i=0}{\overset{N}{\mathrm{\Σ}}}{|x_i-y_i|}^2\right]}^{1/2}---(1-1)$

任意不相邻两顶点的近似测地距离采用Dkstra算法来近似计算。

Dijkstra算法的基本思路是：假设每个点都有一对标号(d_j,p_j)，其中d_j是从起源点s到点j的最短路径的长度(从顶点到其本身的最短路径是零路(没有弧的路)，其长度等于零)；p_j则是从s到j的最短路径中j点的前一点。求解从起源点s到点j的最短路径算法的基本过程如下：

1)初始化。起源点设置为：①d_s=0,p_s为空；②所有其他点:d_i=∞，p_i=?；③标记起源点s，记k=s,其他所有点设为未标记的。

2)检验从所有已标记的点k到其直接连接的未标记的点j的距离，并设置：

d_j=min［d_j,d_k+l_kj］         (1-2)

式中，l_kj是从点k到j的直接连接距离。

3)选取下一个点。从所有未标记的结点中，选取d_j中最小的一个i：

d_i=min［d_j,所有未标记的点j］(1-3)

点i就被选为最短路径中的一点，并设为已标记的。

4)找到点i的前一点。从已标记的点中找到直接连接到点i的点j^*，作为前一点,设置：

i＝                         (1-4)

5)标记点i。如果所有点已标记，则算法完全推出，否则，记k=i，转到2)再继续。

通过上述算法我们可以求得三维模型中任意两顶点之间的近似测地距离。

二、三维模型仿射矩阵的建立

三维模型仿射矩阵中任一元素指的是以该元素所在的行和列为顶点索引号的两个顶点近似测地距离高斯化后的值。定义矩阵A的仿射关系为高斯仿射:

A_Ij＝exp(-d_ij ²/2σ²)   (2-1)

其中d_ij为三维网格上顶点i和顶点j之间的近似测地距离，σ是高斯宽度。可以从定义中看到，两个点之间的仿射关系是和它们之间的近似测地距离方向相关的。而使用高斯仿射，可以有效地减少近似测地距离很远的顶点对当前顶点的影响。这里，我们将σ定义为:

σ＝max(i,j){d_ij}     (2-2)

即所有顶点之间的近似测地距离的最大值。将σ定义为这种数据相关的形式可以使最后的嵌入结果做到对均匀缩放不变，因为实际上可以将这一定义看作是一个标准化的过程。通过对大量的实验结果的观察可以得知，只要σ足够大，最后的嵌入关于σ是相对稳定的。

三、算法近似三维模型的特征值

对一个具有n个顶点的三维模型，如果要将其仿射矩阵A完全构造出来，其时间复杂度是O(n²logn)。而且，对一个n×n的矩阵进行特征分解的时间复杂度是O(n³)。为了提高效率使其满足在线处理的要求，我们使用近似的方法来有效地模拟矩阵A的特征值和特征向量。近似是一种基于子采样技术，它可以将本文中用到的仿射矩阵的构造及其特征分解的时间复杂度降低到O(nlogn+l³),其中l是选取的样本数，通常l＜＜n，实际的时间复杂度可以认为是O(nlogn)。如图2所示为

近似应用的例子。

近似的基本思想是，将子矩阵特征分解得到的特征向量和特征值用到整个矩阵的特征向量近似中。考虑一个有n个点的集合Z＝X∪Y。其中X和Y的大小分别是l和m，并且

这样X和Y就形成了Z的一个划分。将对称的仿射矩阵W∈R^n×n写成分块的形式:

$W=\left[\begin{array}{cc}A& B\\ B^T& C\end{array}\right]---(3-1)$

其中，A∈R^l×l和C∈R^m×m分别是集合X和Y所对应的仿射矩阵，B∈R^l×m是X中的点和Y中的点的仿射关系。令X为采样点的集合，则其所对应的仿射矩阵A可以特征分解为A＝UΛU^T，那么W的特征向量就可以使用

近似的方法近似为:

$\stackrel{\‾}{U}=\left[\begin{array}{c}U\\ B^{T}U{\mathrm{\Λ}}^{-1}\end{array}\right]---(3-2)$

即我们只需构造一个子块[A B]就可以近似出整个矩阵W的特征向量了。

本发明中我们使用的是仿射矩阵的特征值作为样本进行分类，因此只需在原有的顶点中进行采样，本发明选取了50个采样点获得一个近似的仿射矩阵。该近似仿射矩阵采用Jacobi方法特征分解，将求得的特征值按从大到小的顺序排列。

通过上述三个步骤我们就可以得到三维模型的特征值，即该三维模型的描述符，具体流程图如附图2所示。

四、AdaBoost方法的三维模型特征值分类

AdaBoost是“adaptive boosting”（自适应增强）的缩写。“boosting法”（增强法）的目标是提高任何给定的学习学习算法的分类准确率。在boosting法中，我们首先根据已有的训练样本集设计一个分类器，要求这个分类器的准确率比平均性能要好。然后依次顺序地加入多个分量分类器系统，最后形成一个总体分类器，它对训练样本的准确率能够任意的提高。在这种情况下，我们说，分类准确率被增强了。概括的说，本方法依次训练一组分量分类器，其中每个分量分类器的训练集都选择自己有的其它各个分类器所给出的“最富信息”（most informative）的样本点组成。而最终的判决结果则是根据这些分量分类器的结果共同决定。boosting方法也可以被递归的使用，即对分量分类器本身也进行boosting。用这种方式，可以获得非常小的分类误差率。甚至，在类别之间可分的情况下可以达到零误差。

AdaBoost方法是基本boosting方法的一个变形，它允许设计者不断地加入新的“弱分类器”，直到达到某个预定的足够小的误差率，对于许多实际的应用，AdaBoost方法确实被证明是非常有效的。本发明主要是利用AdaBoost算法对提取的三维图像的特征值进行分类。

如附图3所示，AdaBoost算法针对不同的训练集训练同一个基本分类器（弱分类器），然后把这些在不同训练集上得到的分类器集合起来，构成一个更强的最终的分类器（强分类器）。理论证明，只要每个弱分类器分类能力比随机猜测要好，当其个数趋向于无穷个数时，强分类器的错误率将趋向于零。AdaBoost算法中不同的训练集是通过调整每个样本对应的权重实现的。最开始的时候，每个样本对应的权重是相同的，在此样本分布下训练出一个基本分类器h₁(x)。对于h₁(x)错分的样本，则增加其对应样本的权重；而对于正确分类的样本，则降低其权重。这样可以使得错分的样本突出出来，并得到一个新的样本分布。同时，根据错分的情况赋予h₁(x)一个权重，表示该基本分类器的重要程度，错分得越少权重越大。在新的样本分布下，再次对基本分类器进行训练，得到基本分类器h₂(x)及其权重。依次类推，经过T次这样的循环，就得到了T个基本分类器，以及T个对应的权重。最后把这T个基本分类器按一定权重累加起来，就得到了最终所期望的强分类器。

AdaBoost算法的具体描述如下：

假定X表示样本空间，Y表示样本类别标识集合，假设是二值分类问题，这里限定Y={-1,+1}。令S={(x_i,y_i)|i=1,2，...,m}为样本训练集，其中x_i∈X，y_i∈Y。

①初始化m个样本的权值，假设初始样本分布D_t为均匀分布：D₁(i)=1/m，D_t(i)表示在第t轮迭代中赋给样本(x_i,y_i)的权值。

②令T表示迭代的次数。

③For t=1to T do

根据样本分布D_t，通过对训练集S进行抽样（有回放）产生训练集S_t。在训练集S_t上训练分类器h_t。用分类器h_t对原训练集S中的所有样本分类。得到本轮的分类器h_t：X→Y，并且有误差ε_t=Pr_i-Di[h_t(x_i)≠y_i]。令α_t=（1/2）l n[(1-ε_t)/ε_t]，更新每个样本的权值

$D_{t+i}\left(i\right)=\frac{D_t\left(i\right)}{Z_t}\×\left\{\begin{array}{ccc}{e}^{-{\mathrm{\α}}_t},& \mathrm{if}& h_t\left(x_i\right)=y_i\\ e^{{\mathrm{\α}}_t},& \mathrm{if}& h_t\left(x_i\right)\≠y_i\end{array}\right.---(5-1)$

，其中，Z_t是一个正规因子，用来确保Σ_iD_t+1(i)=1。

End for

④最终的预测输出为：

$H\left(x\right)=\mathrm{sign}\left({\mathrm{\Σ}}_{t=1}^T{\mathrm{\α}}_t{h}_t\left(x\right)\right)---(5-2)$

利用最终的强分类对测试集中的三维模型进行测试的流程图如图4所示，可以看出测试的流程和训练的流程基本相似，只不过在测试之前我们已经知道了每一个弱分类器和它的权重，以及迭代次数T，所以可以直接得到测试的结果，及分类的结果。

对于多分类问题，我们可以把它看作是二分类问题的延伸，即把每一类与其它多类看作二分类问题进行分类，直至全部类型循环完毕，就可以得到多分类的结果了。

本发明效果可以通过以下仿真实验进一步说明。仿真实验的数据集是加拿大McGill University Shape Benchmark三维模型数据集。该数据集共包含10类形状（ants，crabs，hands，humans，octopuses，pliers，snakes，spectacles，spiders，teddies），本发明将该数据集分为训练集和测试集。训练集包含10类，每类10个模型，共100个模型。测试集包含10类，每类10个模型，共100个模型。在训练集上训练分类器，在测试集上评估分类器的分类结果。在训练和测试时，都是把一类形状的特征值和其它类形状的特征值分别贴上不同的标签进行分类，这样连续进行10次就可以得到所有分类结果。对分类结果进行统计，统计结果如表1所示，其中误差率和正确率分别是指分类错误和分类正确的三维模型的数目占分类模型总数目的百分比。

图形类别	分错数目	误差率	正确率
				ants	4	4%	96%
crabs	3	3%	97%
				hands	6	6%	94%
humans	8	8%	92%
				octopuses	3	3%	97%
pliers	1	1%	99%
				snakes	0	0%	100%
spectacles	3	3%	97%
				spiders	7	7%	93%
teddies	6	6%	94%
				平均结果	4.1	4.1%	95.9%

表1

每类三维模型的分类精度如附图5所示，从分类结果中可以看出，本发明采用的三维图形自动特征提取和分类的方法可以将分类的平均精度达到95.9%，这在现有的图形分类方法中具有一定的优越性，具有良好的分类的性能。

Claims (1)

1.一种基于AdaBoost的三维模型自动分类方法，其特征在于包括下述步骤：

（1）计算三维模型中任意两顶点的近似测地距离，其中，任意相邻两顶点采用欧氏距离作为它们的近似测地距离，任意不相邻两顶点的近似测地距离采用Dikstra算法计算；

（2）根据计算出的三维模型任意两个顶点的近似测地距离组成一个三维模型的仿射矩阵，仿射矩阵的行数和列数都是三维模型的顶点数，仿射矩阵中任一元素指的是以该元素所在的行和列为顶点索引号的两个顶点的近似测地距离进行高斯化后的值；（3）采用

近似的方法模拟包含所有顶点关系的仿射矩阵，用Jacobi方法特征分解该仿射矩阵，将得到的特征值按从大到小的顺序排列，取第2个至第21个共20个特征值作为三维模型的描述符；

（4）根据步骤（3）中得到的三维模型的描述符，使用AdaBoost方法对三维模型进行分类。

Images