CN107704887B - 一种基于f范数的局部保持投影的图像识别方法 - Google Patents

一种基于f范数的局部保持投影的图像识别方法 Download PDF

Info

Publication number
CN107704887B
CN107704887B CN201710982686.2A CN201710982686A CN107704887B CN 107704887 B CN107704887 B CN 107704887B CN 201710982686 A CN201710982686 A CN 201710982686A CN 107704887 B CN107704887 B CN 107704887B
Authority
CN
China
Prior art keywords
norm
matrix
image
projection
projection matrix
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710982686.2A
Other languages
English (en)
Other versions
CN107704887A (zh
Inventor
孙艳丰
胡向杰
胡永利
王博岳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing University of Technology
Original Assignee
Beijing University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing University of Technology filed Critical Beijing University of Technology
Priority to CN201710982686.2A priority Critical patent/CN107704887B/zh
Publication of CN107704887A publication Critical patent/CN107704887A/zh
Application granted granted Critical
Publication of CN107704887B publication Critical patent/CN107704887B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/06Topological mapping of higher dimensional structures onto lower dimensional surfaces

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开一种基于F范数的局部保持投影的图像识别方法,用于对高维数据提取特征,降维以及图像中存在异常值的情况,记为FLPP。方法包括:输入原始的图像数据,并确定在F范数下的目标函数;利用交替迭代法对获得的F范数的目标函数求解,得到投影矩阵;利用投影矩阵对图像进行分类。与传统的LPP方法不同的是,本方法通过引入F范数测量数据间的距离,求解投影矩阵,使距离相近的数据在投影到低维空间中仍保持相近;此外,使用F范数能保证在求解时不受异常值的影响。本发明可广泛应用于图像识别领域。

Description

一种基于F范数的局部保持投影的图像识别方法
技术领域
本发明属于机器学习技术领域,尤其涉及一种基于F范数的局部保持投影的图像识别方法,适用于图像中带有异常值的分类。
背景技术
高维数据在现代图像处理和计算机视觉的研究中随处可见。高维数据不仅需要更大的存储空间,更甚者它提高了算法的计算复杂度,而这在现实应用中会影响算法的有效性。通过研究发现,高维数据往往是均匀分布在一个低维空间或流行空间上。所以,寻找高维数据到低维空间中的映射关系已成为对图像分类的一个重要问题。近几十年,数据降维的算法已得到深入研究。
局部保持投影(LPP)是一种线性降维方法。LPP通过使原始空间中相互离得近的点在投影到低维空间中也能保持原始数据的这种局部结构。目前LPP被广泛应用于数据降维和模式识别中。
虽然LPP有较好的图像分类效果,但在实际处理图像时,图像往往会带有一些异常值。如果继续用LPP对图像进行分类,正确率就会受到影响。在LPP的目标函数中,距离的度量是基于L2-范数的,它的一个缺陷就是:异常值在二次项的作用下会被夸大。在这种情况下,我们学习到的投影矩阵就会偏向异常值而偏离正确的主方向。
综上所述,在实际图像处理中,我们需要一种对异常值鲁棒的方法。
发明内容
为解决上述技术问题,本发明的目的在于:提供一种对异常值鲁棒的基于F范数的图像识别方法。
本发明解决其技术问题所采取的技术方案是:
本发明提供一种基于F范数的局部保持投影图像识别方法,具体实施过程包括以下步骤:
A、输入图像数据,令X={x1,x2,...,xN}是N个图像数据,每个图像
xi是一个列向量,大小为
Figure GDA0002765798700000011
确定F范数下的目标函数;
B、采用交替迭代法求解F范数下的目标函数,得到影矩阵;
C、利用求解的投影矩阵对来测试的图像分类。
进一步,所述步骤A包括:
A1、确定图像投影矩阵满足的最小值方程,所述求解投影矩阵的最小方程式为:
Figure GDA0002765798700000021
其中,
Figure GDA0002765798700000022
为要求解的投影矩阵,要将数据从H维降到h维,xi是输入的图像数据,“||·||F”是F范数,||ATxi-ATxj||F表示数据xi与xj的距离,wij为权重调整系数,wij的值可以由以下高斯函数计算:
Figure GDA0002765798700000023
其中t为广度参数,wij组成一个权重矩阵
Figure GDA0002765798700000024
A2、为了可以求解(1)式,我们给目标函数加上一个约束方程:
ATXDXTA=I
其中,D是对角矩阵,对角线上的每一个元素等于矩阵W每列(或每行)元素之和,即
Figure GDA0002765798700000025
进一步,所述步骤A1包括:
A11、F范数可以由L2范数变形得到,即:
Figure GDA0002765798700000026
令,
Figure GDA0002765798700000027
则式(1)可以得到如下形式:
Figure GDA0002765798700000028
由w′ij构成新的权重矩阵W′,因此在方程式(2)中,就变成有两个变量,一个是投影矩阵A,另一个是W′,它和矩阵A也有关联,此时投影矩阵A不能由目标函数直接求导得到,我们利用交替迭代法求解目标函数。
进一步,所述步骤B具体为:
根据目标方程式(2)求解投影矩阵A,利用交替迭代法求解目标函数,在对一个变量进行更新时,需要固定另一个变量。
B1、更新投影矩阵A,我们把W′看作常数矩阵,优化问题为:
Figure GDA0002765798700000029
s.t.ATXDXTA=I
其中,D′是在W′下的对角矩阵,
Figure GDA0002765798700000031
L′是在W′下的拉普拉斯图矩阵,L′=D′-W′。矩阵A由以下奇异值分解得到:
XL′XTA=λXDXTA
最小的h个特征值对应的特征向量组成矩阵A。
B2、更新W′:在得到矩阵A后,固定A,此时更新W′,W′的每个元素由以下公式计算:
Figure GDA0002765798700000032
两步交替迭代直至收敛停止迭代,输出矩阵A。
进一步,所述步骤C图像分类包括:
学习完矩阵A后,利用最近邻方法(KNN)对测试图像集分类:
ekl=||ATxk-ATxl||2
xk是测试集中的未知的图像,xl是训练集中已知的图像,ekl是两个图像之间的误差,比较ekl每列的值,找到最小的值,就可以将xk分类。本发明的有益效果是:采用F范数学习图像数据的投影矩阵,在存在异常值的情况下,能更准确的对图像进行分类。
本发明的基于F范数的局部保持投影的图像识别方法,用于对高维数据提取特征,降维以及图像中存在异常值的情况,记为FLPP。方法包括:输入原始的图像数据,并确定在F范数下的目标函数;利用交替迭代法对获得的F范数的目标函数求解,得到投影矩阵;利用投影矩阵对图像进行分类。与传统的LPP方法不同的是,本方法通过引入F范数测量数据间的距离,求解投影矩阵,使距离相近的数据在投影到低维空间中仍保持相近;此外,使用F范数能保证在求解时不受异常值的影响。本发明可广泛应用于图像识别领域。
附图说明
图1为本发明基于F范数的局部保持投影的图像识别方法的流程图;
图2为求解投影矩阵的流程图。
具体实施方式
下面结合附图与实验对该发明的技术方法进行进一步的说明。
基于本发明提出了一种基于F范数的局部保持投影的图像识别方法,参照图1,具体实施包括:
A、输入图像数据,令X={x1,x2,...,xN}是N个图像数据,每个图像
xi是一个列向量,大小为
Figure GDA0002765798700000033
确定F范数下的目标函数;
B、采用交替迭代法求解图像数据的投影矩阵;
C、利用求解的投影矩阵对来测试的图像分类。
进一步,所述步骤A包括:
A1、确定图像投影矩阵满足的最小值方程,所述求解投影矩阵的最小方程式为:
Figure GDA0002765798700000041
其中,
Figure GDA0002765798700000042
为要求解的投影矩阵,要将数据从H维降到h维,xi是输入的图像数据,“||·||F”是F范数,||ATxi-ATxj||F表示数据xi与xj的距离,wij为权重调整系数,wij的值可以由以下高斯可函数计算:
Figure GDA0002765798700000043
其中t为广度参数,wij组成一个权重矩阵
Figure GDA0002765798700000044
A2、为了可以求解(1)式,我们给目标函数加上一个约束方程:
ATXDXTA=I
其中,D是对角矩阵,对角线上的每一个元素等于矩阵W每列(或每行)元素之和,即
Figure GDA0002765798700000045
进一步,所述步骤A1包括:
A11、F范数可以由L2范数变形得到,即:
Figure GDA0002765798700000046
令,
Figure GDA0002765798700000047
则式(1)可以得到如下形式:
Figure GDA0002765798700000048
由w′ij构成新的权重矩阵W′,因此在方程式(2)中,就变成有两个变量,一个是投影矩阵A,另一个是W′,它和矩阵A也有关联,此时投影矩阵A不能由目标函数直接求导得到,我们利用交替迭代法求解目标函数。
参照图2,步骤B中的交替迭代法具体为:
根据目标方程式(2)求解投影矩阵A,利用交替迭代法求解目标函数,在对一个变量进行更新时,需要固定另一个变量,当算法达到终止条件后则停止迭代。
B1、更新投影矩阵A,我们把W′看作常数矩阵,利用一般的特征值分解求解矩阵A。
B2、更新W′,在得到矩阵A后,将A看作常量后,更新W′。
本发明经过具体实施,实验结果表明在异常值存在的条件下,通过与其他方法对比,我们的方法有更高的识别准确率,具有良好的鲁棒性。

Claims (2)

1.一种基于F范数的局部保持投影的图像识别方法,其特征在于包括以下步骤:
A、输入图像数据,令X={x1,x2,...,xN}是N个图像数据,每个图像xi是一个列向量,大小为
Figure FDA0002924209300000011
采用F范数确定目标函数;
B、采用交替迭代法求解F范数,得到图像数据的投影矩阵;
C、利用求解的投影矩阵对来测试的图像分类;
所述步骤A包括:
A1、确定图像投影矩阵满足的最小值方程式,投影矩阵的最小值方程式为:
Figure FDA0002924209300000012
其中,
Figure FDA0002924209300000013
为要求解的投影矩阵,要将数据从H维降到h维,xi是输入的图像数据,“||·||F”是F范数,llATxi-ATxj||F表示数据xi与xj的距离,wij为权重调整系数,wij的值可以由以下高斯函数计算:
Figure FDA0002924209300000014
其中,t为广度参数,wij组成一个权重矩阵
Figure FDA0002924209300000015
A2、为了可以求解这个最小值方程式,给目标函数加上一个约束方程:
ATXDXTA=I
其中,D是对角矩阵,对角线上的每一个元素等于矩阵W每列或每行元素之和,即
Figure FDA0002924209300000016
所述步骤A1包括:
A11、F范数可以由L2范数变形得到,即:
Figure FDA0002924209300000017
令,
Figure FDA0002924209300000018
则最小值方程式可以得到如下最小值方程式的变形式:
Figure FDA0002924209300000019
由w′ij构成新的权重矩阵W′,因此在上述最小值方程式的变形式中,就变成有两个变量,一个是投影矩阵A,另一个是W′,它和矩阵A也有关联,此时投影矩阵A不能由目标函数直接求导得到,利用交替迭代法求解目标函数。
2.根据权利要求1所述的一种基于F范数的局部保持投影的图像识别方法,其特征在于,所述步骤B包括:
根据最小值方程式的变形式求解投影矩阵A,利用交替迭代法求解目标函数,在对一个变量W′进行更新时,需要固定矩阵A,交替求解直至收敛;步骤C图像分类包括:
学习完矩阵A后,利用最近邻方法(KNN)对测试图像集分类:
ekl=||ATxk-ATxl||2
xk是测试集中的未知的图像,xl是训练集中已知的图像,ekl是两个图像之间的误差,比较ekl每列的值,找到最小的值,就可以将xk分类。
CN201710982686.2A 2017-10-20 2017-10-20 一种基于f范数的局部保持投影的图像识别方法 Active CN107704887B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710982686.2A CN107704887B (zh) 2017-10-20 2017-10-20 一种基于f范数的局部保持投影的图像识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710982686.2A CN107704887B (zh) 2017-10-20 2017-10-20 一种基于f范数的局部保持投影的图像识别方法

Publications (2)

Publication Number Publication Date
CN107704887A CN107704887A (zh) 2018-02-16
CN107704887B true CN107704887B (zh) 2021-04-02

Family

ID=61181890

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710982686.2A Active CN107704887B (zh) 2017-10-20 2017-10-20 一种基于f范数的局部保持投影的图像识别方法

Country Status (1)

Country Link
CN (1) CN107704887B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109754018B (zh) * 2019-01-09 2021-07-30 北京工业大学 一种基于f范数的低秩局部保持投影的图像识别方法
CN110197204A (zh) * 2019-05-09 2019-09-03 北京工业大学 一种局部保持投影的图像识别方法
CN112902894B (zh) * 2021-01-26 2022-11-22 西安精雕软件科技有限公司 一种基于迭代法的圆槽口最佳逼近方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101324923A (zh) * 2008-08-05 2008-12-17 北京中星微电子有限公司 用于人脸识别的特征提取方法和装置
CN102737237A (zh) * 2012-07-18 2012-10-17 山东师范大学 基于局部关联保持的人脸图像降维方法
CN104298977A (zh) * 2014-10-24 2015-01-21 西安电子科技大学 一种基于不相关性约束的低秩表示人体行为识别方法
CN107038456A (zh) * 2017-03-23 2017-08-11 北京工业大学 一种基于l1范数的概率线性判别分析的图像分类方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101324923A (zh) * 2008-08-05 2008-12-17 北京中星微电子有限公司 用于人脸识别的特征提取方法和装置
CN102737237A (zh) * 2012-07-18 2012-10-17 山东师范大学 基于局部关联保持的人脸图像降维方法
CN104298977A (zh) * 2014-10-24 2015-01-21 西安电子科技大学 一种基于不相关性约束的低秩表示人体行为识别方法
CN107038456A (zh) * 2017-03-23 2017-08-11 北京工业大学 一种基于l1范数的概率线性判别分析的图像分类方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
A Novel Face Recognition Method: Bilateral Two Dimensional Locality Preserving Projections;Jiadong Song;《 2010 Chinese Conference on Pattern Recognition (CCPR)》;20101206;摘要、第1页右栏第1段-第4页左栏第7段,图1-4 *
Locality Preserving Projections for Grassmann Manifold;Boyue Wang;《Proceedings of the Twenty-Sixth International Joint Conference on Artificial Intelligence》;20170427;全文 *

Also Published As

Publication number Publication date
CN107704887A (zh) 2018-02-16

Similar Documents

Publication Publication Date Title
CN109754018B (zh) 一种基于f范数的低秩局部保持投影的图像识别方法
CN109522956B (zh) 一种低秩判别特征子空间学习方法
US7801354B2 (en) Image processing system
US9928405B2 (en) System and method for detecting and tracking facial features in images
US8958609B2 (en) Method and device for computing degree of similarly between data sets
CN107704887B (zh) 一种基于f范数的局部保持投影的图像识别方法
JP5349407B2 (ja) 平均値シフト手順を使用してサンプルをクラスタリングするプログラム
Vural et al. Out-of-sample generalizations for supervised manifold learning for classification
CN109544603B (zh) 基于深度迁移学习的目标跟踪方法
CN106709943B (zh) 一种基于最优传输的点云配准方法
CN109657611B (zh) 一种用于人脸识别的自适应图正则化非负矩阵分解方法
CN110598636B (zh) 一种基于特征迁移的舰船目标识别方法
CN114254703A (zh) 一种鲁棒的局部与全局正则化的非负矩阵分解聚类方法
US9576222B2 (en) Image retrieval apparatus, image retrieval method, and recording medium
CN109815440B (zh) 联合图优化和投影学习的维数约简方法
JP5175754B2 (ja) 線形変換行列算出装置、その方法、及び、そのプログラム
US20180299847A1 (en) Linear parameter-varying model estimation system, method, and program
CN107038456A (zh) 一种基于l1范数的概率线性判别分析的图像分类方法
US20160292529A1 (en) Image collation system, image collation method, and program
CN109785372A (zh) 基于软决策优化的基础矩阵鲁棒估计方法
Duan et al. Registration of remote-sensing images using robust weighted kernel principal component analysis
US20220137930A1 (en) Time series alignment using multiscale manifold learning
CN110781832B (zh) 基于联合深度置信网络的高光谱图像异常目标检测方法
Du et al. SVM based ASM for facial landmarks location
CN113688875B (zh) 工业系统故障识别方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant