CN107316065A - 基于分部式子空间模型的稀疏特征提取和分类方法 - Google Patents
基于分部式子空间模型的稀疏特征提取和分类方法 Download PDFInfo
- Publication number
- CN107316065A CN107316065A CN201710496730.9A CN201710496730A CN107316065A CN 107316065 A CN107316065 A CN 107316065A CN 201710496730 A CN201710496730 A CN 201710496730A CN 107316065 A CN107316065 A CN 107316065A
- Authority
- CN
- China
- Prior art keywords
- mrow
- msub
- branch
- msup
- msubsup
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
- G06F18/2136—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on sparsity criteria, e.g. with an overcomplete basis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Artificial Intelligence (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Magnetic Resonance Imaging Apparatus (AREA)
- Other Investigation Or Analysis Of Materials By Electrical Means (AREA)
Abstract
本发明涉及面向高维数据的稀疏特征提取和分类方法，具体涉及一种基于分部式子空间模型的稀疏特征提取和分类方法。包括步骤为：对待处理训练数据和测试数据分别进行预处理，构造空间标识函数，构建分部表征模型；对各分部训练数据分别进行奇异值分解，估计各分部所对应的特征维度；基于已估计特征维度，对各分部训练数据采用子空间学习方法，进行稀疏特征提取；基于稀疏特征提取结果，采用弹性网络方法对测试数据在特征空间进行分类学习，得到最后的分类结果。本发明在样本数相对较小情况下，可以有效的提高局部小区域特征维度估计和特征提取的准确性，有效提高现有高维数据分类学习的效率和准确性。
Description
技术领域
本发明涉及面向高维数据的稀疏特征提取和分类方法，具体涉及一种基于分部式子空间模型的稀疏特征提取和分类方法。
背景技术
随着数据采集技术的不断发展，在不同应用领域产生了大量需要分析处理的高维数据，例如医学图像数据、生物基因数据、雷达图像数据、遥感图像数据、语音数据、金融数据等。近年来，机器学习方法被广泛应用于对大数据的分析学习中。高数据维度和相对较少的样本数是机器学习中需要解决的重要问题。本发明主要涉及面向高维数据的特征提取和分类方法。
针对高维度数据，基于降维处理的特征提取方法被引入到不同学习算法中，例如子空间学习方法，Fisher线性判别分析方法,局部线性嵌入降维方法等。其中，主成分分析方法(PCA，Principal Component Analysis)是一类常用的子空间学习方法，被广泛应用于数据的降维操作和分类学习中。然而，PCA方法中的每个主成分都是原始变量的一个线性组合，投影向量因子大多是非零值，这使得对提取的主成分分量不具有可解释性；且PCA方法要求样本数大于数据维度，这在实际应用中也难以实现。为解决以上问题，稀疏主成分分析方法(SPCA,Sparse Principal Component Analysis)在PCA方法的基础之上结合弹性网络方法(EN，Elastic Net)，对投影向量因子进行稀疏化，使得主成分更具解释能力，同时有效解决数据维度高而样本较少的问题。这些基于子空间学习的降维方法中，特征维度(或主成分的个数)选择的准确性对于后期机器学习分类结果的准确性有着密切的关系。目前，对于特征维度的选取，多采用交叉验证的试验方法。在实际操作中，这种交叉试验的方法不仅会浪费学习时间，还会影响特征选取和分类学习的准确性。尤其对于一些局部的小特征区域，不恰当的特征维度选取会带来有用信息的丢失。EN方法作为回归分析方法的一类，可直接用于对原始数据进行分类。采用EN方法进行数据分类时，首先通过训练数据和其标签学习得到分类投影向量，然后利用测试数据在该方向上的投影结果进行分类。但如果训练数据不是线性可分的，EN方法的分类效果较差。
因此，基于准确特征维度的特征提取和有效数据分类操作，对于提高学习效率、实现分类学习结果的准确解释有着重要的意义。
发明内容
本发明的目的在于面向高维数据应用，构建分部表征模型，对不同分部数据估计特征维度，采用子空间学习算法进行分部式稀疏特征提取和分类，提高现有高维数据分类学习的效率和准确性。
本发明是通过以下技术方案实现的，包括以下步骤：
第一步，对待处理训练数据和测试数据分别进行预处理，并构造空间标识函数，对预处理后的训练数据Xtrain(r)和测试数据Xtest(r)分别构建分部表征模型为：
其中，和分别为第p个分部的训练数据和测试数据，Wp(r)为第p个分部对应的空间标识函数，r为空间位置；
所述的对待处理训练数据和测试数据进行预处理，具体是：对训练数据和测试数据分别进行去噪、标准化、分割、介质属性分析等处理；
所述的构造空间标识函数Wp(r)，具体是：
其中，Dp是第p个分部的空间支持域范围；根据应用需求，Dp可以是单一属性区域范围，也可以是功能特性相似的几个属性区域构成的特定区域范围，可通过分割、模板划分、分析介质属性差异等方式获得。
第二步，对各分部训练数据分别进行奇异值分解，估计各分部所对应的特征维度Lp,(p＝1,2,…,P)。
所述的估计各分部所对应的特征维度Lp，具体是：对进行秩为Lp的奇异值分解如下：
其中，和分别是矩阵的第l个奇异值、第l个左奇异向量和第l个右奇异向量，所对应的矩阵表示形式分别为Σ(p)，U(p)和V(p)，T为取矩阵的转置，Lp为的秩，将其作为第p个分部的特征维度；对于由功能特性相似的几个属性区域构成的特定区域，选择最大Lp值，即max(Lp),(p＝1,2,…,P)，作为该特定区域的特征维度。
第三步，对各分部训练数据采用特征维度为Lp,(p＝1,2,…,P)的子空间学习方法，进行稀疏特征提取。
所述的对各分部训练数据采用特征维度为Lp,(p＝1,2,…,P)的子空间学习方法，具体是：对第p个分部训练数据选择子空间学习方法，将步骤二中估计得到的Lp作为子空间学习方法中的特征维度；如采用稀疏主成分分析方法作为子空间学习方法，可通过如下交替迭代运算，估计得到第p个分部训练数据的稀疏投影矩阵和对应的稀疏特征提取结果
其中，为第p个分部的第i个训练数据，n为样本数，Lp为稀疏主成分个数，为稀疏投影矩阵，λ1和λ2是非负拉格朗日惩罚系数。
第四步，基于稀疏特征提取结果，采用弹性网络方法对测试数据在特征空间进行分类学习，得到最后的分类结果。
所述的基于稀疏特征提取结果，采用弹性网络方法对测试数据在特征空间进行分类学习，具体是：将预处理后的测试数据Xtest(r)在稀疏投影矩阵上进行投影，得到测试数据的特征表征Ytest(r)；基于稀疏特征提取结果对第p个分部的任一测试数据采用进行线性表示采用弹性网络方法求解线性表征系数如下：
其中，λ3和λ4是非负拉格朗日惩罚系数，包含了不同类别的线性表征系数；通过分析计算特征空间中测试数据与第m类训练数据的最小偏差，判别测试数据是否属于类别m，进而得到最后的分类结果；其中，中的非零值为中第m类的表征系数。
与现有技术相比，本发明的有益效果是：
(1)本发明一种基于子空间模型的分部式稀疏特征提取和分类方法，特别是基于分部式表征模型估计特征空间维度，可有效保留局部区域特征信息，提高局部的小分部区域特征维度估计和特征提取的准确性，有效提高现有高维数据分类学习的效率和准确性；
(2)基于稀疏特征提取结果，采用弹性网络分类方法对测试数据在特征空间进行分类学习，可以更有效的利用训练数据的最主要特征，体现出测试数据与训练数据的关系，提高数据分类的准确性。
附图说明
图1为本发明基于分部式子空间模型的稀疏特征提取和分类方法的流程图。
图2为本发明实施例中9个特征脑区的特征维度选取图。
图3为本发明实施例中不同特征维度选取情况下的AD和HC识别率对比图。
图4为本发明实施例中特定脑区在不同特征维度选取情况下的AD和HC识别率对比图。
图5为对本发明实施例中本发明方法与其他方法的识别率比较结果。
具体实施方式：
下面结合附图对本发明的实施例作详细说明，本实施例在以本发明技术方案为前提下进行实施，给出了详细的实施方式和过程，但本发明的保护范围不限于下述的实施例。
本发明以核磁共振医学图像(MRI，Magnetic Resonance Imaging)数据为应用对象，对老年痴呆症患者(AD，Alzheimer’s disease)和正常老年人(HC，Healthy Control)的MRI数据进行学习分类。实验中所使用的数据来源于ADNI数据网站。这些数据是采用MPRAGE或相当协议，在3.0T磁共振设备上采集得到的T1加权大脑结构数据。本实验所研究对象的年龄分布在55岁到90岁，其中训练数据包括AD患者48例(男性23例，女性25例)，正常老年人45例(男性23例，女性22例)；正常老年人MMSE评分在24到30之间，CDR值为0；AD患者MMSE评分在20到26之间，CDR值为0.5或1。本实验中对所有训练数据和测试数据进行了100次的蒙特卡洛实验。
如图1所示，本发明分部式特征提取和分类方法实施例的流程如下：
第一步，对待处理核磁数据(包括训练数据和测试数据)进行预处理，得到预处理后的训练数据Xtrain(r)和测试数据Xtest(r)；构造空间标识函数Wp(r)，对预处理后的训练数据Xtrain(r)和测试数据Xtest(r)分别构建分部表征模型。
(1)对原始训练数据和测试数据，采用SPM8进行分割和标准化处理，取分割、标准化后的灰质数据作为预处理后的训练数据Xtrain(r)和测试数据Xtest(r)。
(2)采用WFU_PickAtlas(http://www.nitrc.org/projects/wfu_pickatlas/)提取9个特征脑区：杏仁核(AMYG)、海马(HIP)、海马旁回(PHG)、楔叶(CUN)、扣带回(CG)、顶叶(PG)、楔前叶(PCUN)、额叶(FG)、颞叶(TG)，将这9个特征脑区模板作为分部表征模型的9个空间支持域Dp,(p＝1,2,…,9)。
(3)基于Wp(r)，对预处理后的训练数据Xtrain(r)和测试数据Xtest(r)进行分部表征，分别构建9个分部脑区。
(4)将预处理后的分部训练数据和测试数据沿轴向累加，将3维数据转换为2维数据和
第二步，对各分部训练数据分别进行奇异值分解，得到各分部所对应的特征维度Lp,(p＝1,2,…,P)。
(1)对9个分部脑区的训练数据分别进行奇异值分解，得到各分部脑区所对应的特征维度如图2所示。
(2)对于由功能特性相似的几个属性区域构成的特定区域(例如，由杏仁核、海马、海马旁回构成的内侧颞叶区(AHP)，或包含所有9个特征脑区的总特征区域(All))，选择最大Lp值，即max(Lp),(p＝1,2,…,9)，作为该特定区域的特征维度。
第三步，对各分部训练数据采用特征维度为Lp,(p＝1,2,…,9)的子空间学习方法，进行稀疏特征提取。
(1)对AD训练数据和HC训练数据，添加训练标签。
(2)选择稀疏主成分分析方法作为子空间学习方法，采用特征维度为Lp,(p＝1,2,…,9)作为特征维度，即主成分个数。
(3)通过交替迭代求解下式，估计得到第p个分部数据的稀疏投影矩阵和对应的稀疏特征提取结果(即稀疏主成分)
其中，为第p个分部的第i个训练数据，n为样本数，Lp为稀疏主成分个数，为稀疏投影矩阵，λ1和λ2是非负拉格朗日惩罚系数。
第四步，基于稀疏特征提取结果，采用弹性网络方法对测试数据在特征空间进行学习分类，得到最后的分类结果。
(1)将预处理后的测试数据Xtest(r')在稀疏投影矩阵上进行投影，得到测试数据的特征表征
(2)基于稀疏特征提取结果对第p个分部的任一测试数据采用进行线性表示采用弹性网络方法求解线性表征系数如下：
其中，λ3和λ4是非负拉格朗日惩罚系数，包含了不同类别的线性表征系数；
(3)通过分析计算特征空间中测试数据与第m类训练数据的最小偏差，判别测试数据是否属于类别m，进而得到最后的分类结果；其中，中的非零值为中第m类的表征系数。
本实施例对应9个分部脑区的特征维度选择曲线如图2所示，特征维度选择值如图中星号“*”标识位置。图3给出了基于不同特征维度选择方法得到的识别率比较结果。其中，包含了对所有脑区选择相同的特征维度值L＝5,L＝30,L＝50和对不同脑区采用图2所示的特征维度值进行子空间学习分类的识别结果。由图3可见，与其他三种固定预设特征维度值的方法相比，本发明方法所提的分部式子空间特征维度估计方法可以得到更好的识别效果。尤其，对于杏仁核这种体积(能量)较小的特征区域，本发明方法的识别率明显高于其他三种方法。对于AD临床诊断的典型脑区(例如内侧颞叶区)，本发明方法也可以得到比较好的识别效果，如图4所示。与现有学习分类方法相比较而言，本发明所提的基于稀疏特征提取结果利用弹性网络投影方法进行数据分类的识别效果，明显优于SPCA方法和支持向量机(SVM，Support Vector Machine)方法，如图5所示。在计算效率方面，本实施例程序运行在Intel(R)Xeon(R)CPU E5-2665 0@2.4GHz，内存16GB，操作系统Server 2008R2，软件平台MATLAB R2014a的服务器上。对本实施例的训练数据分别进行100次蒙特卡洛实验，所需计算时间分别是：L＝5时，需要0.23小时；L＝30时，需要0.32小时；L＝100时，需要6.5小时；本发明所提方法，需要0.41小时。综合来看，在样本数相对较小情况下，本发明方法可以更有效的保留局部区域特征信息，提高局部小区域特征维度估计和特征提取的准确性，以较少的计算时间来获得较好的学习分类效果，有效提高现有高维数据分类学习的效率和准确性。
上述说明已经充分介绍了本发明的具体实施方式。需要指出的是，熟悉该领域的技术人员对本发明的具体实施方式所做的任何改动均不脱离本发明的权利要求书的范围。相应的，本发明的权利要求的范围也并不仅仅局限于前述具体实施方式。
Claims (5)
1.一种基于分部式子空间模型的稀疏特征提取和分类方法，其特征在于，包括以下步骤：
(1)对待处理训练数据和测试数据分别进行预处理，并构造空间标识函数，对预处理后的训练数据Xtrain(r)和测试数据Xtest(r)分别构建分部表征模型为：
<mrow>
<msub>
<mi>X</mi>
<mrow>
<mi>t</mi>
<mi>r</mi>
<mi>a</mi>
<mi>i</mi>
<mi>n</mi>
</mrow>
</msub>
<mrow>
<mo>(</mo>
<mi>r</mi>
<mo>)</mo>
</mrow>
<mo>=</mo>
<munderover>
<mi>&Sigma;</mi>
<mrow>
<mi>p</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<mi>P</mi>
</munderover>
<msubsup>
<mi>X</mi>
<mrow>
<mi>t</mi>
<mi>r</mi>
<mi>a</mi>
<mi>i</mi>
<mi>n</mi>
</mrow>
<mrow>
<mo>(</mo>
<mi>p</mi>
<mo>)</mo>
</mrow>
</msubsup>
<mrow>
<mo>(</mo>
<mi>r</mi>
<mo>)</mo>
</mrow>
<mo>=</mo>
<munderover>
<mi>&Sigma;</mi>
<mrow>
<mi>p</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<mi>P</mi>
</munderover>
<msub>
<mi>W</mi>
<mi>p</mi>
</msub>
<mrow>
<mo>(</mo>
<mi>r</mi>
<mo>)</mo>
</mrow>
<mo>&CenterDot;</mo>
<msub>
<mi>X</mi>
<mrow>
<mi>t</mi>
<mi>r</mi>
<mi>a</mi>
<mi>i</mi>
<mi>n</mi>
</mrow>
</msub>
<mrow>
<mo>(</mo>
<mi>r</mi>
<mo>)</mo>
</mrow>
<mo>,</mo>
<msub>
<mi>X</mi>
<mrow>
<mi>t</mi>
<mi>e</mi>
<mi>s</mi>
<mi>t</mi>
</mrow>
</msub>
<mrow>
<mo>(</mo>
<mi>r</mi>
<mo>)</mo>
</mrow>
<mo>=</mo>
<munderover>
<mi>&Sigma;</mi>
<mrow>
<mi>p</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<mi>P</mi>
</munderover>
<msubsup>
<mi>X</mi>
<mrow>
<mi>t</mi>
<mi>e</mi>
<mi>s</mi>
<mi>t</mi>
</mrow>
<mrow>
<mo>(</mo>
<mi>p</mi>
<mo>)</mo>
</mrow>
</msubsup>
<mrow>
<mo>(</mo>
<mi>r</mi>
<mo>)</mo>
</mrow>
<mo>=</mo>
<munderover>
<mi>&Sigma;</mi>
<mrow>
<mi>p</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<mi>P</mi>
</munderover>
<msub>
<mi>W</mi>
<mi>p</mi>
</msub>
<mrow>
<mo>(</mo>
<mi>r</mi>
<mo>)</mo>
</mrow>
<mo>&CenterDot;</mo>
<msub>
<mi>X</mi>
<mrow>
<mi>t</mi>
<mi>e</mi>
<mi>s</mi>
<mi>t</mi>
</mrow>
</msub>
<mrow>
<mo>(</mo>
<mi>r</mi>
<mo>)</mo>
</mrow>
<mo>,</mo>
</mrow>
其中，和分别为第p个分部的训练数据和测试数据，Wp(r)为第p个分部对应的空间标识函数，r为空间位置；
(2)对各分部训练数据(p＝1,2,…,P)分别进行奇异值分解，估计各分部所对应的特征维度Lp,(p＝1,2,…,P)；
(3)对各分部训练数据(p＝1,2,…,P)，采用特征维度为Lp,(p＝1,2,…,P)的子空间学习方法，进行稀疏特征提取；
(4)基于稀疏特征提取结果，采用弹性网络方法对测试数据在特征空间进行分类学习，得到最后的分类结果。
2.根据权利要求1所述的基于分部式子空间模型的稀疏特征提取和分类方法，其特征在于，所述步骤(1)的对待处理训练数据和测试数据分别进行预处理，具体是：对训练数据和测试数据分别进行去噪、标准化、分割、介质属性分析等处理；所述步骤(1)的构造空间标识函数Wp(r)，具体是：
其中，Dp是第p个分部的空间支持域范围；根据应用需求，Dp可以是单一属性区域范围，也可以是功能特性相似的几个属性区域构成的特定区域范围，可通过分割、模板划分、分析介质属性差异等方式获得。
3.根据权利要求1所述的基于分部式子空间模型的稀疏特征提取和分类方法，其特征在于，所述步骤(2)的估计各分部所对应的特征维度Lp，具体是：对进行秩为Lp的奇异值分解如下：
<mrow>
<msubsup>
<mover>
<mi>X</mi>
<mo>^</mo>
</mover>
<mrow>
<mi>t</mi>
<mi>r</mi>
<mi>a</mi>
<mi>i</mi>
<mi>n</mi>
</mrow>
<mrow>
<mo>(</mo>
<mi>p</mi>
<mo>)</mo>
</mrow>
</msubsup>
<mrow>
<mo>(</mo>
<mi>r</mi>
<mo>)</mo>
</mrow>
<mo>=</mo>
<msup>
<mi>U</mi>
<mrow>
<mo>(</mo>
<mi>p</mi>
<mo>)</mo>
</mrow>
</msup>
<msup>
<mi>&Sigma;</mi>
<mrow>
<mo>(</mo>
<mi>p</mi>
<mo>)</mo>
</mrow>
</msup>
<msup>
<mi>V</mi>
<mrow>
<mo>(</mo>
<mi>p</mi>
<mo>)</mo>
<mi>T</mi>
</mrow>
</msup>
<mo>=</mo>
<munderover>
<mo>&Sigma;</mo>
<mrow>
<mi>l</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<msub>
<mi>L</mi>
<mi>p</mi>
</msub>
</munderover>
<msubsup>
<mi>&sigma;</mi>
<mi>l</mi>
<mrow>
<mo>(</mo>
<mi>p</mi>
<mo>)</mo>
</mrow>
</msubsup>
<msubsup>
<mi>u</mi>
<mi>l</mi>
<mrow>
<mo>(</mo>
<mi>p</mi>
<mo>)</mo>
</mrow>
</msubsup>
<msubsup>
<mi>v</mi>
<mi>l</mi>
<mrow>
<mo>(</mo>
<mi>p</mi>
<mo>)</mo>
<mi>T</mi>
</mrow>
</msubsup>
<mo>,</mo>
<mrow>
<mo>(</mo>
<mi>p</mi>
<mo>=</mo>
<mn>1</mn>
<mo>,</mo>
<mn>2</mn>
<mo>,</mo>
<mo>...</mo>
<mo>,</mo>
<mi>P</mi>
<mo>)</mo>
</mrow>
<mo>,</mo>
</mrow>
其中， 和分别是矩阵的第l个奇异值、第l个左奇异向量和第l个右奇异向量，所对应的矩阵表示形式分别为Σ(p)，U(p)和V(p)，T为取矩阵的转置，Lp为的秩，
将其作为第p个分部的特征维度；对于由功能特性相似的几个属性区域构成的特定区域，选择最大Lp值，即max(Lp),(p＝1,2,…,P)，作为该特定区域的特征维度。
4.根据权利要求1所述的基于分部式子空间模型的稀疏特征提取和分类方法，其特征在于，所述步骤(3)的对各分部训练数据(p＝1,2,…,P)，采用特征维度为Lp,(p＝1,2,…,P)的子空间学习方法，具体是：对第p个分部训练数据选择子空间学习方法，将步骤(2)中估计得到的Lp作为子空间学习方法中的特征维度；如采用稀疏主成分分析方法作为子空间学习方法，可通过如下交替迭代运算，估计得到第p个分部训练数据的稀疏投影矩阵和对应的稀疏特征提取结果
<mrow>
<mtable>
<mtr>
<mtd>
<mrow>
<mo>(</mo>
<mover>
<mi>A</mi>
<mo>^</mo>
</mover>
<mo>,</mo>
<mover>
<mi>B</mi>
<mo>^</mo>
</mover>
<mo>)</mo>
<mo>=</mo>
<munder>
<mi>argmin</mi>
<mrow>
<mi>A</mi>
<mo>,</mo>
<mi>B</mi>
</mrow>
</munder>
<munderover>
<mo>&Sigma;</mo>
<mrow>
<mi>i</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<mi>n</mi>
</munderover>
<mo>|</mo>
<mo>|</mo>
<msubsup>
<mi>x</mi>
<mi>i</mi>
<mrow>
<mo>(</mo>
<mi>p</mi>
<mo>)</mo>
</mrow>
</msubsup>
<mo>-</mo>
<msup>
<mi>AB</mi>
<mi>T</mi>
</msup>
<msubsup>
<mi>x</mi>
<mi>i</mi>
<mrow>
<mo>(</mo>
<mi>p</mi>
<mo>)</mo>
</mrow>
</msubsup>
<mo>|</mo>
<msup>
<mo>|</mo>
<mn>2</mn>
</msup>
<mo>+</mo>
<msub>
<mi>&lambda;</mi>
<mn>1</mn>
</msub>
<munderover>
<mo>&Sigma;</mo>
<mrow>
<mi>j</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<msub>
<mi>L</mi>
<mi>p</mi>
</msub>
</munderover>
<mo>|</mo>
<mo>|</mo>
<msub>
<mi>&beta;</mi>
<mi>j</mi>
</msub>
<mo>|</mo>
<msup>
<mo>|</mo>
<mn>2</mn>
</msup>
<mo>+</mo>
<munderover>
<mo>&Sigma;</mo>
<mrow>
<mi>j</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<msub>
<mi>L</mi>
<mi>p</mi>
</msub>
</munderover>
<msub>
<mi>&lambda;</mi>
<mrow>
<mn>2</mn>
<mo>,</mo>
<mi>j</mi>
</mrow>
</msub>
<mo>|</mo>
<mo>|</mo>
<msub>
<mi>&beta;</mi>
<mi>j</mi>
</msub>
<mo>|</mo>
<msub>
<mo>|</mo>
<mn>1</mn>
</msub>
</mrow>
</mtd>
</mtr>
<mtr>
<mtd>
<mtable>
<mtr>
<mtd>
<mrow>
<mi>s</mi>
<mo>.</mo>
<mi>t</mi>
<mo>.</mo>
</mrow>
</mtd>
<mtd>
<mrow>
<msup>
<mi>A</mi>
<mi>T</mi>
</msup>
<mi>A</mi>
<mo>=</mo>
<msub>
<mi>I</mi>
<mrow>
<msub>
<mi>L</mi>
<mi>p</mi>
</msub>
<mo>&times;</mo>
<msub>
<mi>L</mi>
<mi>p</mi>
</msub>
</mrow>
</msub>
</mrow>
</mtd>
</mtr>
</mtable>
</mtd>
</mtr>
</mtable>
<mo>,</mo>
</mrow>
其中，为第p个分部的第i个训练数据，n为样本数，Lp为稀疏主成分个数，为稀疏投影矩阵，λ1和λ2是非负拉格朗日惩罚系数。
5.根据权利要求1所述的基于分部式子空间模型的稀疏特征提取和分类方法，其特征在于，所述步骤(4)的基于稀疏特征提取结果，采用弹性网络方法对测试数据在特征空间进行分类学习，具体是：将预处理后的测试数据Xtest(r)在稀疏投影矩阵上进行投影，得到测试数据的特征表征基于稀疏特征提取结果对第p个分部的任一测试数据采用进行线性表示采用弹性网络方法求解线性表征系数如下：
<mrow>
<mover>
<mi>&gamma;</mi>
<mo>^</mo>
</mover>
<mo>=</mo>
<munder>
<mrow>
<mi>m</mi>
<mi>i</mi>
<mi>n</mi>
</mrow>
<mi>&gamma;</mi>
</munder>
<mo>|</mo>
<mo>|</mo>
<msubsup>
<mi>y</mi>
<mrow>
<mi>t</mi>
<mi>e</mi>
<mi>s</mi>
<mi>t</mi>
</mrow>
<mrow>
<mo>(</mo>
<mi>p</mi>
<mo>)</mo>
</mrow>
</msubsup>
<mo>-</mo>
<msup>
<mover>
<mi>Z</mi>
<mo>^</mo>
</mover>
<mi>T</mi>
</msup>
<mi>&gamma;</mi>
<mo>|</mo>
<msup>
<mo>|</mo>
<mn>2</mn>
</msup>
<mo>+</mo>
<msub>
<mi>&lambda;</mi>
<mn>3</mn>
</msub>
<mo>|</mo>
<mo>|</mo>
<mi>&gamma;</mi>
<mo>|</mo>
<msup>
<mo>|</mo>
<mn>2</mn>
</msup>
<mo>+</mo>
<msub>
<mi>&lambda;</mi>
<mn>4</mn>
</msub>
<mo>|</mo>
<mo>|</mo>
<mi>&gamma;</mi>
<mo>|</mo>
<msub>
<mo>|</mo>
<mn>1</mn>
</msub>
<mo>,</mo>
</mrow>
其中，λ3和λ4是非负拉格朗日惩罚系数，包含了不同类别的线性表征系数；通过分析计算特征空间中测试数据与第m类训练数据的最小偏差，判别测试数据是否属于类别m，进而得到最后的分类结果；其中，中的非零值为中第m类的表征系数。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201710496730.9A CN107316065B (zh) | 2017-06-26 | 2017-06-26 | 基于分部式子空间模型的稀疏特征提取和分类方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201710496730.9A CN107316065B (zh) | 2017-06-26 | 2017-06-26 | 基于分部式子空间模型的稀疏特征提取和分类方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN107316065A true CN107316065A (zh) | 2017-11-03 |
| CN107316065B CN107316065B (zh) | 2021-03-02 |
Family
ID=60181178
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201710496730.9A Active CN107316065B (zh) | 2017-06-26 | 2017-06-26 | 基于分部式子空间模型的稀疏特征提取和分类方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN107316065B (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108798641A (zh) * | 2018-06-19 | 2018-11-13 | 东北大学 | 一种基于子空间迁移学习的有杆泵抽油井故障诊断方法 |
| CN110880008A (zh) * | 2018-09-06 | 2020-03-13 | 刘艳 | 基于脑核磁影像数据的结构特征提取和分类方法 |
Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1310825A (zh) * | 1998-06-23 | 2001-08-29 | 微软公司 | 用于分类文本以及构造文本分类器的方法和装置 |
| CN101866421A (zh) * | 2010-01-08 | 2010-10-20 | 苏州市职业大学 | 基于离散度约束非负稀疏编码的自然图像特征提取方法 |
| US8073196B2 (en) * | 2006-10-16 | 2011-12-06 | University Of Southern California | Detection and tracking of moving objects from a moving platform in presence of strong parallax |
| CN102779271A (zh) * | 2012-06-28 | 2012-11-14 | 南京信息工程大学 | 基于谱稀疏典型相关分析的表情语义稀疏量化方法 |
| CN103927554A (zh) * | 2014-05-07 | 2014-07-16 | 中国标准化研究院 | 一种基于拓扑结构的图像稀疏表征面部表情特征提取系统和方法 |
| US20160050343A1 (en) * | 2014-08-15 | 2016-02-18 | University Of Washington | Using dynamic mode decomposition for real-time background/foreground separation in video |
| WO2017039946A1 (en) * | 2015-09-02 | 2017-03-09 | Qualcomm Incorporated | Enforced sparsity for classification |
| CN106649663A (zh) * | 2016-12-14 | 2017-05-10 | 大连理工大学 | 一种基于紧凑视频表征的视频拷贝检测方法 |
-
2017
- 2017-06-26 CN CN201710496730.9A patent/CN107316065B/zh active Active
Patent Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1310825A (zh) * | 1998-06-23 | 2001-08-29 | 微软公司 | 用于分类文本以及构造文本分类器的方法和装置 |
| US8073196B2 (en) * | 2006-10-16 | 2011-12-06 | University Of Southern California | Detection and tracking of moving objects from a moving platform in presence of strong parallax |
| CN101866421A (zh) * | 2010-01-08 | 2010-10-20 | 苏州市职业大学 | 基于离散度约束非负稀疏编码的自然图像特征提取方法 |
| CN102779271A (zh) * | 2012-06-28 | 2012-11-14 | 南京信息工程大学 | 基于谱稀疏典型相关分析的表情语义稀疏量化方法 |
| CN103927554A (zh) * | 2014-05-07 | 2014-07-16 | 中国标准化研究院 | 一种基于拓扑结构的图像稀疏表征面部表情特征提取系统和方法 |
| US20160050343A1 (en) * | 2014-08-15 | 2016-02-18 | University Of Washington | Using dynamic mode decomposition for real-time background/foreground separation in video |
| WO2017039946A1 (en) * | 2015-09-02 | 2017-03-09 | Qualcomm Incorporated | Enforced sparsity for classification |
| CN106649663A (zh) * | 2016-12-14 | 2017-05-10 | 大连理工大学 | 一种基于紧凑视频表征的视频拷贝检测方法 |
Non-Patent Citations (2)
| Title |
|---|
| YAN LIU等: "Improved Low-Rank Filtering of Magnetic Resonance Spectroscopic Imaging Data Corrupted by Noise and B0 Field Inhomogeneity", 《IEEE TRANSACTIONS ON BIOMEDICAL ENGINEERING》 * |
| 史彩娟: "网络空间图像标注中半监督稀疏特征选择算法研究", 《中国博士学位论文全文数据库（信息科技辑）》 * |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108798641A (zh) * | 2018-06-19 | 2018-11-13 | 东北大学 | 一种基于子空间迁移学习的有杆泵抽油井故障诊断方法 |
| CN108798641B (zh) * | 2018-06-19 | 2021-06-11 | 东北大学 | 一种基于子空间迁移学习的有杆泵抽油井故障诊断方法 |
| CN110880008A (zh) * | 2018-09-06 | 2020-03-13 | 刘艳 | 基于脑核磁影像数据的结构特征提取和分类方法 |
| CN110880008B (zh) * | 2018-09-06 | 2023-10-17 | 刘艳 | 基于脑核磁影像数据的结构特征提取和分类方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN107316065B (zh) | 2021-03-02 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| WO2023040588A1 (zh) | 基于图模型的脑功能配准方法 | |
| Lee et al. | EMMIX-uskew: an R package for fitting mixtures of multivariate skew t-distributions via the EM algorithm | |
| CN104715260B (zh) | 基于rls-elm的多模态融合图像分类方法 | |
| CN110534195B (zh) | 一种基于数据空间变换的阿尔兹海默症检测方法 | |
| CN104361318B (zh) | 一种基于弥散张量成像技术的疾病诊断辅助系统 | |
| CN102509123B (zh) | 一种基于复杂网络的脑功能磁共振图像分类方法 | |
| CN107680600A (zh) | 声纹模型训练方法、语音识别方法、装置、设备及介质 | |
| CN103413117B (zh) | 一种基于局部保持非负矩阵分解的增量学习人脸识别方法 | |
| CN106951825A (zh) | 一种人脸图像质量评估系统以及实现方法 | |
| CN106295694A (zh) | 一种迭代重约束组稀疏表示分类的人脸识别方法 | |
| CN111090764B (zh) | 基于多任务学习和图卷积神经网络的影像分类方法及装置 | |
| CN102509113B (zh) | 一种脑瘤mib-1指数范围检测方法 | |
| CN103020653B (zh) | 基于网络分析的结构和功能磁共振图像联合分类方法 | |
| CN103440512A (zh) | 一种基于张量局部保持投影的大脑认知状态的识别方法 | |
| CN103440513A (zh) | 基于稀疏非负张量分解的大脑特定视觉认知状态判定方法 | |
| CN103295031B (zh) | 一种基于正则风险最小化的图像目标计数方法 | |
| CN105678261B (zh) | 基于有监督图的直推式数据降维方法 | |
| CN109558912A (zh) | 一种基于深度可分离卷积的阿尔兹海默病分类方法 | |
| CN107341510A (zh) | 基于稀疏正交的双图非负矩阵分解的图像聚类方法 | |
| Dessouky et al. | Selecting and extracting effective features for automated diagnosis of Alzheimer's disease | |
| Saravanakumar et al. | A computer aided diagnosis system for identifying Alzheimer’s from MRI scan using improved Adaboost | |
| Nguyen et al. | Abnormal data classification using time-frequency temporal logic | |
| Wilms et al. | Invertible modeling of bidirectional relationships in neuroimaging with normalizing flows: application to brain aging | |
| Pei et al. | Multi-scale attention-based pseudo-3D convolution neural network for Alzheimer’s disease diagnosis using structural MRI | |
| Arco et al. | Short-term prediction of MCI to AD conversion based on longitudinal MRI analysis and neuropsychological tests |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |