CN105868706A - 一种基于稀疏自编码的三维模型识别方法 - Google Patents

Abstract

一种基于稀疏自编码的三维模型识别方法：采集不同三维模型的二维视图集，构建数据库；选定查询的三维模型，得到低层特征；利用稀疏自编码模型来学习低层特征与初级高层特征之间的滤波器函数；从数据库中得到对比三维模型的低层特征；根据滤波器函数卷积对比三维模型的低层特征，经过池化得到对比三维模型的高层特征；根据滤波器函数卷积查询的三维模型的二维视图，经过池化得到查询的三维模型的高层特征；利用二维视图的高层特征，计算查询模型和对比模型的相似度；判断是否将数据库中的所有三维模型都已作为对比三维模型；降序排列查询的三维模型和所有对比三维模型的相似度，将相似度最高的三维模型的类别作为识别结果。本发明大幅提高了识别效果。

Description

一种基于稀疏自编码的三维模型识别方法

技术领域

本发明涉及一种三维模型识别方法。特别是涉及一种基于稀疏自编码的三维模型识别方法。

背景技术

近年来，随着三维建模工具的开发和三维重建技术的发展，以及计算机图像处理能力不断地提高，三维物体模型被广泛的应用到不同的领域，例如：文化遗产^[1]、计算机辅助设计(CAD)、计算机视觉、医学影像^[2]、3D打印、娱乐^[3]等。相比于其他多媒体信息，三维模型及其生成的虚拟现实场景可以提供更加丰富的特征信息和更加逼真的立体视觉特性。这些优势使其成为继声音、图像和视频之后的第四种多媒体数据类型^[4]，同时越来越多的研究人员开始加入到三维模型的相关研究工作中来。

借助于计算机性能的高速发展、三维建模和重建技术的快速进步，三维模型的数量正在指数型增长，随之出现了许多大规模的模型库。如何自动、高效、准确的识别出三维模型的类别并反馈给用户，已经成为当前三维模型领域中的热点研究课题。

三维模型识别技术大体上可以分为两种方式：基于文本的和基于内容的三维识别技术。基于文本的识别方式通常是通过关键字标注的方式对现有模型事先进行人为的标注、分类。当用户检索时，通过分析这些标注的关键字来识别模型种类。此类方法简单易行，识别速度快。但是缺点也比较突出，关键字标注很难全面、准确的描述三维模型的特征属性，并且由于人的主观因素很难客观的对模型进行一致性的标注，加之文本本身容易产生二义性，因此很难得到准确的识别结果。基于内容的技术一般是系统利用三维模型自身所携带的几何结构、材质等信息进行分析并建模，然后将从三维模型提取的特征存入数据库中。当进行识别时，用户提供三维模型完整数据或二维视图等通过接口输入，系统进行特征提取，然后与数据库中的每一个模型的特征进行相似度比较，按照与查询模型的相似度匹配程度降序排列，将相似度最高模型的类别反馈给用户。此方法原理简单、易于操作且适用范围广泛。

基于内容的三维模型识别领域目前面临的主要挑战为：三维模型转化为一组二维视图后，虽然现有的特征描述符丰富多样，但大多数只能描述图片某一单方面的初级特征，且数据间的冗余度较大。而深度学习中的稀疏自编码与卷积神经网络能够通过低层特征形成更加抽象的高层特征，以探求数据信息的多种深层联系，已成功应用于语音识别^[5]、自然语言处理^[6]等领域。

发明内容

本发明所要解决的技术问题是，提供一种不仅加快了识别速度，还能大幅提高识别准确度的基于稀疏自编码的三维模型识别方法。

本发明所采用的技术方案是：一种基于稀疏自编码的三维模型识别方法，包括以下步骤：

1)采集不同三维模型的二维视图集，构建数据库；

2)选定查询的三维模型，从数据库中随机提取该三维模型的二维视图中的一组子块，并对子块进行预处理，得到低层特征；

3)利用稀疏自编码模型来学习子块的低层特征与初级高层特征之间的滤波器函数f；

4)从数据库中提取一对比三维模型的二维视图中的一组子块，并对子块进行预处理，得到对比三维模型的低层特征；

5)根据滤波器函数f卷积步骤4)中所述的对比三维模型的低层特征，经过池化得到对比三维模型的高层特征；

6)根据滤波器函数f卷积查询的三维模型的二维视图，经过池化得到查询的三维模型的高层特征；

7)利用二维视图的高层特征，计算查询模型和对比模型的相似度；

8)判断是否将数据库中的所有三维模型都已作为对比三维模型，是则进入下一步骤，否则返回步骤4)；

9)降序排列查询的三维模型和所有对比三维模型的相似度，将相似度最高的三维模型的类别作为识别结果。

步骤2)所述的得到低层特征，具体是：

从查询的三维模型的二维视图中随机提取n个方形子块，得到查询模型的子块集C＝{c₁,c₂,...c_j,...,c_n}，其中每个子块c的大小为l*l个像素，有d个通道，每个子块c由一个N维的低层特征向量表示，该子块中一个像素的像素强度值表示一个元素，即c∈R^N，其中N＝l*l*d；

在提取低层特征之前，对所得子块进行预处理，首先进行亮度和对比度的归一化，具体方法为将子块c中的每个像素减去所有像素的均值，再除以标准差，然后对于整个子块集C进行白化处理，去除数据之间的相关性，从而得到子块的低层特征p。

所述的通道至少包括有红、绿和蓝三个颜色通道。

所述的通道包括有红、绿和蓝三个颜色通道和一个深度通道。

步骤3)具体为：

利用稀疏自编码模型学习一个滤波器函数f，将输入的子块的低层特征p∈R^N映射为一个K维的初级高层特征，其中K表示稀疏自编码模型的参数；

输入N维的低层特征，训练得到一个具有K个隐含节点的稀疏自编码模型，输出权重w∈R^{K × N}和偏差δ∈R^K，将特征映射的滤波器函数定义为：

f(p)＝1/(1+exp(-wp+δ))

其中p为输入的低层特征，w和δ为训练稀疏自编码模型得到的参数。

步骤5)和步骤6)具体为：

首先根据步骤3)中学习的滤波器函数f，给定子块的低层特征p时，将所述低层特征p转化为一个初级高层特征向量y＝f(p)∈R^K，于是定义一个单层卷积网络，即，将滤波器函数f按一定步长s卷积整张二维视图中各子块的低层特征p，从而得到整张二维视图的初级 高层特征。

为了进一步去除数据的冗余度，对初级高层特征采取池化处理，把每张二维视图中的初级高层特征平均分成四等份，计算每等份中所有子块的初级高层特征总和构成高层特征，则每张二维视图用一个4K维的高层特征表示。

本发明的一种基于稀疏自编码的三维模型识别方法，结合深度学习中的稀疏自编码和卷积神经网络提取视图特征，大幅提高了识别效果。本发明具有的有益效果是：

1、利用稀疏自编码模型拟合视图中像素子块的分布情况，构造了高效的滤波器函数；

2、结合深度学习中的卷积神经网络提取视图特征，完成了三维模型识别的任务；

3、与其他现有方法学习的特征相比，大幅提升了识别效果。

附图说明

图1是本发明的基于稀疏自编码的三维模型识别方法的流程图；

图2是本发明的基于稀疏自编码的三维模型识别方法的结构示意图；

图3是三种特征算法的查准-查全曲线图。

具体实施方式

下面结合实施例和附图对本发明的一种基于稀疏自编码的三维模型识别方法做出详细说明。

研究表明，深度学习中的稀疏自编码器和神经卷积网络算法能够挖掘数据之间的深层联系，应用于视觉图片中可提取更具代表性的高级特征，从而完成三维模型识别的任务。

本发明的一种基于稀疏自编码的三维模型识别方法，包括以下步骤：

1)采集不同三维模型的二维视图集，构建数据库；

一个三维模型可以由它的二维视图集表示，其中每张二维视图包含了三维模型在不同角度和位置的色彩、纹理、结构等信息。二维视图既可以通过摄像机多角度地拍摄三维模型的彩色视图产生，也可通过下载本领域公知的常用数据库得到。此步骤为三维模型识别领域所公知。

2)选定查询的三维模型，从数据库中随机提取该三维模型的二维视图中的一组子块，并对子块进行预处理，得到低层特征；

所述的得到低层特征，具体是：

从查询的三维模型的二维视图中随机提取n个方形子块，得到查询模型的子块集C＝{c₁,c₂,...c_j,...,c_n}，其中每个子块c的大小为l*l个像素，有d个通道，每个子块c由一个N维的低层特征向量表示，该子块中一个像素的像素强度值表示一个元素，即c∈R^N，其中N＝l*l*d；所述的通道至少包括有红(R)、绿(G)和蓝(B)三个颜色通道，或者所述的通道包括有红(R)、绿(G)和蓝(B)三个颜色通道和一个深度通道。

在提取低层特征之前，对所得子块进行预处理，首先进行亮度和对比度的归一化，具体方法为将子块c中的每个像素减去所有像素的均值，再除以标准差，然后对于整个子块集C进行白化处理，去除数据之间的相关性，从而得到子块的低层特征p。所述白化的具体原理 和过程参考文献A,Oja E.Independent component analysis:algorithms and applications[J].Neural networks,2000,13(4):411-430.中所述。

3)利用稀疏自编码模型来学习子块的低层特征与初级高层特征之间的滤波器函数f；具体为：

利用稀疏自编码模型学习一个滤波器函数f，将输入的子块的低层特征p∈R^N映射为一个K维的初级高层特征，其中K表示稀疏自编码模型的参数；

使得输出和输入尽可能一致的编码器我们称之为自编码器。比如，如果隐含层的神经元数目小于输入层，那么这个编码器就要学习怎样压缩数据。而使得神经元大部分时间被抑制的限制称作稀疏性限制。稀疏自编码器是深度学习中不可或缺的重要模型，已成功应用于语音识别、细胞识别等领域。

输入N维的低层特征，训练得到一个具有K个隐含节点的稀疏自编码模型，输出权重w∈R^{K × N}和偏差δ∈R^K，将特征映射的滤波器函数定义为：

f(p)＝1/(1+exp(-wp+δ))

其中p为输入的低层特征，w和δ为训练稀疏自编码模型得到的参数。

所述的训练得到一个具有K个隐含节点的稀疏自编码模型，可以参考文献Lee H,Ekanadham C,Ng A Y.Sparse deep belief net model for visual area V2[C]//Advances in neural information processing systems.2008:873-880获得。

4)从数据库中提取一对比三维模型的二维视图中的一组子块，并对子块进行预处理，得到对比三维模型的低层特征；

5)根据滤波器函数f卷积步骤4)中所述的对比三维模型的低层特征，经过池化得到对比三维模型的高层特征；

6)根据滤波器函数f卷积查询的三维模型的二维视图，经过池化得到查询的三维模型的高层特征；

上述步骤5)和步骤6)具体为：

首先根据步骤3)中学习的滤波器函数f，给定子块的低层特征p时，将所述低层特征p转化为一个初级高层特征向量y＝f(p)∈R^K，于是定义一个单层卷积网络，即，将滤波器函数f按一定步长s卷积整张二维视图中各子块的低层特征p，从而得到整张二维视图的初级高层特征。

具体来说，假设二维视图由m*m个像素构成(有d个通道)，当滤波器函数f以步长s依次卷积输入二维视图中l*l大小的子块时，可以得到[(m-l)/s+1]²个K维的初级高层特征，如图2所示。更直观地，我们用yi_j表示位于二维视图中第i行，第j列的像素子块所对应的K维初级高层特征。

为了进一步去除数据的冗余度，对初级高层特征采取池化处理，把每张二维视图中[(m-l)/s+1]²个K维的初级高层特征如图2平均分成四等份，计算每等份中所有子块的初级高层特征总和构成高层特征，则每张二维视图用一个4K维的高层特征表示。

7)利用二维视图的高层特征，计算查询模型和对比模型的相似度；

本实施例是根据下式可计算任意两个不同三维模型的相似度：

$S(A,B)=\frac{1}{\underset{a\∈A}{max}\{\underset{b\∈B}{\min }\[d(a,b)\]\}}$

其中S(A,B)表示两个模型之间的相似度，A表示查询模型，B表示对比模型，a和b分别是三维模型A，B中任意二维视图的高层特征，d(a,b)表示两特征之间的欧氏距离。

8)判断是否将数据库中的所有三维模型都已作为对比三维模型，是则进入下一步骤，否则返回步骤4)；

9)降序排列查询的三维模型和所有对比三维模型的相似度，将相似度最高的三维模型的类别作为识别结果。

具体实例

一、数据库

本实验使用的数据库为本领域公知的新加坡南洋理工大学发布的NTU(Nanyang Technological University)数据库。NTU数据库包括47类共549个不同的虚拟三维模型，如苹果、水瓶、帆船、座椅等。我们将虚拟三维模型置于球心，将虚拟摄像机摆放于于C60结构的各顶点拍摄60张二维视图。

二、参数设定

本发明实施例中，具体的参数取值为：l＝8,d＝3,s＝1,m＝240,K＝128。

三、评估标准

查准查全曲线(PR,Precision-recall curve)：其主要是根据相似度列表描述查全率与查准率的动态关系。一个好的PR曲线应该尽可能的靠近坐标轴的右上侧。查全率和查准率的定义如下：

查准率——主要指检索出的结果中相关结果的比率。其定义形式为P＝(查询出的相关信息量÷查询信息的总量)×100％。三维模型识别中，相关信息指的是与查询模型同一类别的三维模型。

查全率——又叫做召回率，其定义形式：R＝查询出的相关信息量÷数据库中相关信息的总量。

四、对比算法

本发明重点在于提出了一种新颖的特征提取方法完成三维模型识别，故与其它两种常用特征方法进行对比：

Zernike矩^[9]是三维模型识别领域中非常流行的特征描述，具有缩放、旋转和平移不变性。它是一类正交矩，其旋转不变性对于形状表征特别重要，可以利用Zernike多项式计算得到；

HOG(方向梯度直方图)^[10]是图像处理中常用的特征描述子，它通过计算和统计图像局部区域的梯度方向直方图来构成特征。能够借助于梯度的统计信息，高效地描述图片中局部目标的表象和形状，并且对图像几何的和光学的形变都能保持很好的不变性。

五、实验结果

NTU数据库中三种算法的查准-查全曲线比较结果如图3。查准-查全曲线与横纵坐标所围面积越大，代表方法性能越优良。

如图3所示，本方法的识别性能明显优于Zernike矩和HOG特征，这是由于Zernike矩注重于提取整张图片的轮廓特征，忽略了局部细节信息，而HOG特征虽然是局部目标描述符，但它反映的是梯度下降的统计情况，具有单一性。与之相比，本发明基于稀疏自编码器提取的特征既描述了局部子块的颜色、纹理、轮廓等信息，又涵盖了整张图片的全局特征，通过卷积网络挖掘了低层特征中更抽象、更具表现力的高层特征，获得了优异的实验结果。

本领域技术人员可以理解附图只是一个优选实施例的示意图，上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。

以上所述仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

本发明的参考文献如下：

[1]Huang P,Hilton A,Starck J.Shape similarity for 3d video sequences of people[J].International Journal of Computer Vision,2010,89(2-3):362-381.

[2]Gao Y,Tang J,Li H,et al.View-based 3D model retrieval with probabilistic graph model[J].Neurocomputing,2010,73(10):1900-1905.

[3]Vyshali S,Subramanyam M V,Rajan K S.TOPOLOGY CODING IN SPECTRAL DOMAIN FOR EFFECTIVE MEDICAL IMAGE RETRIEVAL.International Journal of Engineering Science and Technology,2011,3(11).

[4]李洪安.三维模型检索及相关方法研究[D].西北大学,2014.

[5]Deng L,Hinton G,Kingsbury B.New types of deep neural network learning for speech recognition and related applications:An overview[C]//Acoustics,Speech and Signal Processing (ICASSP),2013IEEE International Conference on.IEEE,2013:8599-8603.

[6]Mikolov T,Chen K,Corrado G,et al.Efficient estimation of word representations in vector space[J].arXiv preprint arXiv:1301.3781,2013.

[7]A,Oja E.Independent component analysis:algorithms and applications[J].Neural networks,2000,13(4):411-430.

[8]Lee H,Ekanadham C,Ng A Y.Sparse deep belief net model for visual area V2[C]//Advances in neural information processing systems.2008:873-880.

[9]Chen D Y,Tian X P,Shen Y T,et al.On visual similarity based 3D model retrieval[C]//Computer graphics forum.Blackwell Publishing,Inc,2003,22(3):223-232.

[10]Yoon S M,Scherer M,Schreck T,et al.Sketch-based 3D model retrieval using diffusion tensor fields of suggestive contours[C]//Proceedings of the international conference on Multimedia.ACM,2010:193-200。

Claims (6)

1.一种基于稀疏自编码的三维模型识别方法，其特征在于，包括以下步骤：

1)采集不同三维模型的二维视图集，构建数据库；

2)选定查询的三维模型，从数据库中随机提取该三维模型的二维视图中的一组子块，并对子块进行预处理，得到低层特征；

3)利用稀疏自编码模型来学习子块的低层特征与初级高层特征之间的滤波器函数f；

4)从数据库中提取一对比三维模型的二维视图中的一组子块，并对子块进行预处理，得到对比三维模型的低层特征；

5)根据滤波器函数f卷积步骤4)中所述的对比三维模型的低层特征，经过池化得到对比三维模型的高层特征；

6)根据滤波器函数f卷积查询的三维模型的二维视图，经过池化得到查询的三维模型的高层特征；

7)利用二维视图的高层特征，计算查询模型和对比模型的相似度；

8)判断是否将数据库中的所有三维模型都已作为对比三维模型，是则进入下一步骤，否则返回步骤4)；

9)降序排列查询的三维模型和所有对比三维模型的相似度，将相似度最高的三维模型的类别作为识别结果。

2.根据权利要求1所述的一种基于稀疏自编码的三维模型识别方法，其特征在于，步骤2)所述的得到低层特征，具体是：

从查询的三维模型的二维视图中随机提取n个方形子块，得到查询模型的子块集C＝{c₁,c₂,...c_j,...,c_n}，其中每个子块c的大小为l*l个像素，有d个通道，每个子块c由一个N维的低层特征向量表示，该子块中一个像素的像素强度值表示一个元素，即c∈R^N，其中N＝l*l*d；

在提取低层特征之前，对所得子块进行预处理，首先进行亮度和对比度的归一化，具体方法为将子块c中的每个像素减去所有像素的均值，再除以标准差，然后对于整个子块集C进行白化处理，去除数据之间的相关性，从而得到子块的低层特征p。

3.根据权利要求2所述的一种基于稀疏自编码的三维模型识别方法，其特征在于，所述的通道至少包括有红、绿和蓝三个颜色通道。

4.根据权利要求2所述的一种基于稀疏自编码的三维模型识别方法，其特征在于，所述的通道包括有红、绿和蓝三个颜色通道和一个深度通道。

5.根据权利要求1所述的一种基于稀疏自编码的三维模型识别方法，其特征在于，步骤3)具体为：

利用稀疏自编码模型学习一个滤波器函数f，将输入的子块的低层特征p∈R^N映射为一个K维的初级高层特征，其中K表示稀疏自编码模型的参数；

输入N维的低层特征，训练得到一个具有K个隐含节点的稀疏自编码模型，输出权重w∈R^K×N和偏差δ∈R^K，将特征映射的滤波器函数定义为：

f(p)＝1/(1+exp(-wp+δ))

其中p为输入的低层特征，w和δ为训练稀疏自编码模型得到的参数。

6.根据权利要求1所述的一种基于稀疏自编码的三维模型识别方法，其特征在于，步骤5)和步骤6)具体为：

首先根据步骤3)中学习的滤波器函数f，给定子块的低层特征p时，将所述低层特征p转化为一个初级高层特征向量y＝f(p)∈R^K，于是定义一个单层卷积网络，即，将滤波器函数f按一定步长s卷积整张二维视图中各子块的低层特征p，从而得到整张二维视图的初级高层特征。

为了进一步去除数据的冗余度，对初级高层特征采取池化处理，把每张二维视图中的初级高层特征平均分成四等份，计算每等份中所有子块的初级高层特征总和构成高层特征，则每张二维视图用一个4K维的高层特征表示。