CN113221942A - 一种基于深度迁移和Cayley-Klein度量的小样本下茶叶病害识别算法 - Google Patents
一种基于深度迁移和Cayley-Klein度量的小样本下茶叶病害识别算法 Download PDFInfo
- Publication number
- CN113221942A CN113221942A CN202110313426.2A CN202110313426A CN113221942A CN 113221942 A CN113221942 A CN 113221942A CN 202110313426 A CN202110313426 A CN 202110313426A CN 113221942 A CN113221942 A CN 113221942A
- Authority
- CN
- China
- Prior art keywords
- cayley
- klein
- tea
- metric
- measurement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 201000010099 disease Diseases 0.000 title claims abstract description 59
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 title claims abstract description 59
- 238000013508 migration Methods 0.000 title claims abstract description 42
- 230000005012 migration Effects 0.000 title claims abstract description 42
- 238000005259 measurement Methods 0.000 title claims abstract description 27
- 238000004422 calculation algorithm Methods 0.000 title claims abstract description 20
- 238000000034 method Methods 0.000 claims abstract description 43
- 238000012549 training Methods 0.000 claims abstract description 42
- 230000008569 process Effects 0.000 claims abstract description 23
- 238000013135 deep learning Methods 0.000 claims abstract description 9
- 238000013528 artificial neural network Methods 0.000 claims abstract description 7
- 230000009467 reduction Effects 0.000 claims abstract description 5
- 241001122767 Theaceae Species 0.000 claims abstract 27
- 206010039509 Scab Diseases 0.000 claims description 37
- 239000011159 matrix material Substances 0.000 claims description 37
- 238000000605 extraction Methods 0.000 claims description 19
- 238000012360 testing method Methods 0.000 claims description 18
- 238000011176 pooling Methods 0.000 claims description 16
- 230000006870 function Effects 0.000 claims description 11
- 230000003902 lesion Effects 0.000 claims description 8
- 238000012545 processing Methods 0.000 claims description 6
- 238000000354 decomposition reaction Methods 0.000 claims description 5
- 238000009826 distribution Methods 0.000 claims description 5
- 238000013507 mapping Methods 0.000 claims description 5
- 238000012706 support-vector machine Methods 0.000 claims description 4
- 230000004913 activation Effects 0.000 claims description 3
- 238000004364 calculation method Methods 0.000 claims description 3
- 238000005070 sampling Methods 0.000 claims description 3
- 230000011218 segmentation Effects 0.000 claims description 3
- 238000013526 transfer learning Methods 0.000 abstract description 5
- 238000012546 transfer Methods 0.000 abstract description 2
- 244000269722 Thea sinensis Species 0.000 description 52
- 230000009466 transformation Effects 0.000 description 12
- 238000000513 principal component analysis Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 6
- 241000196324 Embryophyta Species 0.000 description 5
- 238000000844 transformation Methods 0.000 description 5
- 230000000875 corresponding effect Effects 0.000 description 4
- 238000012937 correction Methods 0.000 description 3
- 238000013136 deep learning model Methods 0.000 description 3
- 239000000243 solution Substances 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 230000002596 correlated effect Effects 0.000 description 2
- 238000002347 injection Methods 0.000 description 2
- 239000007924 injection Substances 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 241000238631 Hexapoda Species 0.000 description 1
- 240000000275 Persicaria hydropiper Species 0.000 description 1
- 235000017337 Persicaria hydropiper Nutrition 0.000 description 1
- 235000006468 Thea sinensis Nutrition 0.000 description 1
- 241000607479 Yersinia pestis Species 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000003416 augmentation Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000007635 classification algorithm Methods 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000007499 fusion processing Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30181—Earth observation
- G06T2207/30188—Vegetation; Agriculture
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computational Linguistics (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明涉及一种基于深度迁移和Cayley‑Klein度量的小样本下茶叶病害识别算法，深度迁移和Cayley‑Klein度量的神经网络的训练过程：基于深度迁移和Cayley‑Klein度量的神经网络的训练过程分为两个阶段：第一个阶段是数据由低层次向高层次传播的阶段，即前向传播阶段；另外一个阶段是，择Cayley‑Klein度量以反应样本空间结构信息或语义信息，使得距离度量具有更好的区分性，更好的减少负迁移特征所带来的影响。本算法能够准确地检测三种不同的茶叶病害图像，并且具有较高的识别精度，同时具有较快的识别速度。该特性主要得益于迁移学习解决了小样本情况下数据量不足无法进行深度学习提取特征的问题，而Cayley‑Klein度量边降维边度量的过程，降低了因迁移学习带来的负迁移影响。
Description
技术领域
本发明涉及基于图片特征的图像分类算法的研究领域，具体为一种结合深度迁移和Cayley-Klein度量的小样本下茶叶病害识别算法。
背景技术
当使用经典机器学习方法来识别植物病害时，需要人工提取植物病害特征，特征提取效果对识别精度有着很大的影响。由于受不同茶叶病害感染的茶叶病斑颜色和纹理相差甚小，采用经典机器学习方法识别的准确率较低。近年发展起来的深度学习方法在进行目标识别的时候不需要人工提取目标特征，利用深度学习方法进行植物病害识别的准确率非常高，用于植物叶片病害识别的最常用深度学习模型是深度卷积神经网络CNN。收集足够的茶叶病数据作为训练样本是困难和昂贵的，在茶叶病害培养样本不足的情况下，大部分深度学习方法难以获得较高的识别准确率。如果样本数量不足，通过图像增广方式扩充训练样本数量，也可以用来训练深度学习模型。传统数据扩充方法通过几何变换、伽马校正、主成分分析(PCA)、噪声注入来增加训练图像，上述图像增广方式并没有增加额外的信息，利用所增广的样本训练深度学习模型仍然存在过拟合问题。尽管已有方法的性能不能令人满意，但已经为植物病害分类做了很多工作。
对于训练数据中存在的位置偏差，几何变换是非常好的解决方案。有许多潜在的偏差来源，可以将训练数据与测试数据的分布分开。如果存在位置偏差，例如在人脸识别数据集中，每个人脸都是完全居中的，几何变换是一个很好的解决方案。除了克服位置偏差的强大能力之外，几何变换也很有用，因为它们很容易实现。有很多成像处理库，可以让水平翻转和旋转等操作轻松上手。几何变换的一些缺点包括额外的内存、变换计算成本和额外的训练时间。一些几何变换，如平移或随机裁剪等几何变换必须手动观察，以确保它们没有改变图像的标签。最后，在所涉及的许多应用领域，如医学图像分析，训练数据与测试数据之间的偏差比位置偏差和平移偏差更复杂。因此，几何变换也不一定总是能带来明显的效果。
伽玛校正(Gamma Correction)，所谓伽玛校正就是对图像的伽玛曲线进行编辑，以对图像进行非线性色调编辑的方法，检出图像信号中的深色部分和浅色部分，并使两者比例增大，从而提高图像对比度效果。计算机绘图领域惯以此屏幕输出电压与对应亮度的转换关系曲线，称为伽玛曲线 (Gamma Curve)。在图像处理中，可以将漂白(相机过曝)的图片或者过暗(曝光不足)的图片，进行修正。然而伽马变换对于图像对比度偏高，并且整体亮度值偏低情况下的图像增强效果明显不好。
主成分分析(PCA)，通过PCA变换，可以把多波段图像中的有用信息集中到数量尽可能少的新的主成分图像中，并使这些主成分图像之间互不相关，从而大大减少总的数据量。但PCA变换对噪声比较敏感，即信息量大的主成分分量，信噪比(信号与噪声的比)不一定高，当某个信息量大的主成分中包含的噪声的方差大于信号的方差时，该主成分分量形成的图像质量就差，PCA变换用于融合处理并不是为了减少噪声，而是通过该变换，使得多光谱影像在各个波段具有统计独立性，即这些波段间的数据互不相关，便于分别采用相应的融合策略。
噪声注入，基于噪声的数据增强就是在原来的图片的基础上，随机叠加一些噪声，最常见的做法就是高斯噪声。更复杂一点的就是在面积大小可选定、位置随机的矩形区域上丢弃像素产生黑色矩形块，从而产生一些彩色噪声。然而随机加入噪声，产生的几乎是对模型有害的噪声，这会干扰到模型的正常收敛。
发明内容
本发明的目的在于提供一种基于深度迁移和Cayley-Klein度量的小样本下茶叶病害识别算法，该方法以其他类作物病害图像为源域样本，以病害茶叶图像为目标域样本，通过以下三个步骤实现小样本下茶叶病害识别：第一个步骤是病斑图像分割。利用适合处理小样本的支持向量机方法分割茶叶病害图像中的病斑，以去除复杂背景的影响。第二个步骤是病斑图像特征抽取。为了解决小样本下的过拟合问题，借鉴深度迁移学习思想，利用大数据量的源域样本中分割出的病斑图像训练VGG16网络模型，并用目标域样本微调后获得特征提取网络，以抽取茶叶病斑图像特征。第三步骤是病斑图像分类识别。将抽取出来的茶叶病斑图像特征用来训练和测试Cayley-Klein度量模型，最终实现茶叶病害识别结果。
为实现上述目的，本发明提供如下技术方案：一种基于深度迁移和 Cayley-Klein度量的小样本下茶叶病害识别算法，其特征在于，包括多卷积神经网络的训练过程：
网络的训练过程分为两个阶段：第一个阶段是数据由低层次向高层次传播的阶段，即前向传播阶段；另外一个阶段是，择Cayley-Klein度量以反应样本空间结构信息或语义信息，使得距离度量具有更好的区分性，更好的减少负迁移特征所带来的影响；具体训练过程为：
第一步：网络进行权值的初始化；
第二步：输入数据经过卷积层、下采样层的向前传播得到茶叶特征数据；
第三步：茶叶病斑图像特征用来训练和测试Cayley-Klein度量模型，最终实现茶叶病害识别结果。优选的，包括卷积层，卷积层可实现对输入数据的特征提取功能，通过若干个卷积层重复作用于不同图像位置的感受野，将卷积所得到的结果组合得到特征图像，卷积层与输入接收区运算公式如下所示：
其中：x表示接收局域(M，N)的二维向量；W表示长和宽分别为j、i 的卷积层；b为每个输出特征映射所加的偏置项，yconv为卷积结果；M为二维向量的长，N为二维向量的宽；f为激活函数。
优选的，包括池化层，池化层的主要作用是对卷积计算结果进行尺度缩小，以减少网络的参数量，经过池化层处理后的特征图的尺度会一定程度减小，尺寸为2，步长为2的最大池化函数为：
fpool＝Max(xm，n，xm+1，n，xm，n+1，xm+1，n+1)，(0≤m≤M，0≤n≤N)
其中：fpool为最大池化结果。
9.优选的，Cayley-Klein度量是解决多分类问题的分类器，Cayley-Klei 度量依赖于一个对称矩阵Ω。数据的统计特性通常可以在一定程度上比较好的反映出数据样本之间的几何结构，因此根据样本之间的类内高斯分布与类间高斯分布的对数似然比来定义Cayley-Klein度量矩阵的概念。
对初始特征xi，xj∈Rd，通过降维矩阵W∈Rd×r(r＜d)将初始高维(d维)特征向量映射到低维子空间(r维)中。因此，Cayley-Klein度量矩阵转化为：
其中∑′I是新的特征子空间中类内协方差矩阵，∑′E表示的是新特征子空间中相同类别之间的协方差矩阵，且∑′I＝WT∑IW，∑′E＝WT∑EW。
为了使不同类的样本图像更容易区分，利用度量的方法尽可能减小相同类别之间的方差，同时增大不同类别之间方差。这样通过增大方差的距离可以提升数据样本的区分度，对于矩阵W的列向量w，有方差σI(w)＝wT∑Iw，因此可以定义广义瑞利熵来最大化方差之间的比值：
使得j(w)最大化等价于：
于是可以根据求解广义特征值分解问题的方法，将矩阵W求解的问题变成一个监督问题，对矩阵
进行特征值分解，矩阵W由前r个最大特征值对应的特征向量组成。在求得降维矩阵W的同时也求出了度量矩阵Ω(W)。最后在特征子空间利用Cayley-Klein度量dE(x，y)计算茶叶病斑测试集中每一个样本和茶叶病斑训练集之间的距离，并按照距离从小到大排序，取前三个距离取平均值，以此作为最后的茶叶病斑类别判断依据。
用cifar数据集和plantvillage数据集2种数据集进行迁移学习，将提取得到的特征均使用Cayley-Klein度量的基础上，并记录了所有测试。
优选的，所述卷积层、下采样层共同组成隐含层。
优选的，所述所述SVM进行病斑分割，源域和目标域的深度学习网络采用的是VGG16网络提取特征，一个Cayley-Klein度量模型组成。借鉴深度迁移学习思想，利用大数据量的源域样本中分割出的病斑图像训练VGG16网络模型，并用目标域样本微调后获得特征提取网络，以抽取茶叶病斑图像特征，将抽取出来的茶叶病斑图像特征用来训练和测试Cayley-Klein度量模型，最终实现茶叶病害识别结果。。
优选的，所述网络的训练过程中提供三种病变样本，分别为茶赤叶斑病样本、茶云纹叶枯病样本和茶圆赤星病样本。
优选的，对于茶叶病害识别过程具体过程如下：
第一步：利用适合处理小样本的支持向量机方法分割茶叶病害图像中的病斑，以去除复杂背景的影响，对病斑图像分割；
第二步：了解决小样本下的过拟合问题，借鉴深度迁移学习思想，利用大数据量的源域样本中分割出的病斑图像训练VGG16网络模型，并用目标域样本微调后获得特征提取网络，以抽取茶叶病斑图像特征：
第三步：将抽取出来的茶叶病斑图像特征用来训练和测试Cayley-Klein 度量模型，最终实现茶叶病害识别结果。
与现有技术相比，本发明的有益效果如下：
本算法提出的迁移学习与度量学习结合的方法能够有效识别出现有样本的3种茶叶病虫害。迁移学习解决了小样本情况下数据量不足无法进行深度学习提取特征的问题，而Cayley-Klein度量边降维边度量的过程，降低了因迁移学习带来的负迁移影响。
附图说明
图1为本发明茶叶病害识别过程示意图；
图2为本发明茶叶病害图像本；
图3为本发明茶叶病斑特征提取过程示意图；
图4为本发明不同数据集迁移效果对比图示意图；
图5为本发明不同特征的识别效果对比图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
实施例
请参阅图1-5，一种基于深度迁移和Cayley-Klein度量的小样本下茶叶病害识别算法，包括网络的训练过程：
一种基于深度迁移和Cayley-Klein度量的小样本下茶叶病害识别算法，其特征在于，包括多卷积神经网络的训练过程：
基于深度迁移和Cayley-Klein度量的神经网络的训练过程分为两个阶段：第一个阶段是数据由低层次向高层次传播的阶段，即前向传播阶段；另外一个阶段是，择Cayley-Klein度量以反应样本空间结构信息或语义信息，使得距离度量具有更好的区分性，更好的减少负迁移特征所带来的影响。具体训练过程为：
第一步：网络进行权值的初始化；
第二步：输入数据经过卷积层、下采样层、全连接层的向前传播得到输出值；
第三步：借鉴深度迁移学习思想，利用大数据量的源域样本中分割出的病斑图像训练VGG16网络模型，并用目标域样本微调后获得特征提取网络，以抽取茶叶病斑图像特征；
第四步：将抽取出来的茶叶病斑图像特征用来训练和测试Cayley-Klein 度量模型，最终实现茶叶病害识别结果。
本实施例中，包括卷积层，卷积层可实现对输入数据的特征提取功能，通过若干个卷积层重复作用于不同图像位置的感受野，将卷积所得到的结果组合得到特征图像，卷积层与输入接收区运算公式如下所示：
其中：x表示接收局域(M，N)的二维向量；w表示长和宽分别为j、i的卷积层；b为每个输出特征映射所加的偏置项，yconv为卷积结果；M为二维向量的长，N为二维向量的宽；f为激活函数。
本实施例中，包括池化层，池化层的主要作用是对卷积计算结果进行尺度缩小，以减少网络的参数量，经过池化层处理后的特征图的尺度会一定程度减小，尺寸为2，步长为2的最大池化函数为：
fpool＝Max(xm，n，xm+1，n，xm，n+1，xm+1，n+1)，(0≤m≤M，0≤n≤N)
其中：fpool为最大池化结果。
池化层是每个卷积层后面修正卷积之后的结果的。
本实施例中，Cayley-Klein度量是解决多分类问题的分类器， Cayley-Klei度量依赖于一个对称矩阵Ω。数据的统计特性通常可以在一定程度上比较好的反映出数据样本之间的几何结构，因此根据样本之间的类内高斯分布与类间高斯分布的对数似然比来定义Cayley-Klein度量矩阵的概念。
对初始特征xi，xj∈Rd，通过降维矩阵W∈Rd×r(r＜d)将初始高维(d维)特征向量映射到低维子空间(r维)中。因此，Cayley-Klein度量矩阵转化为：
其中∑′I是新的特征子空间中类内协方差矩阵，∑′E表示的是新特征子空间中相同类别之间的协方差矩阵，且∑′I＝WT∑IW，∑′E＝WT∑EW。
为了使不同类的样本图像更容易区分，利用度量的方法尽可能减小相同类别之间的方差，同时增大不同类别之间方差。这样通过增大方差的距离可以提升数据样本的区分度，对于矩阵W的列向量w，有方差σI(w)＝wT∑Iw，因此可以定义广义瑞利熵来最大化方差之间的比值：
使得j(w)最大化等价于：
于是可以根据求解广义特征值分解问题的方法，将矩阵W求解的问题变成一个监督问题，对矩阵
进行特征值分解，矩阵W由前r个最大特征值对应的特征向量组成。在求得降维矩阵W的同时也求出了度量矩阵Ω(W)。最后在特征子空间利用Cayley-Klein度量dE(x，y)计算茶叶病斑测试集中每一个样本和茶叶病斑训练集之间的距离，并按照距离从小到大排序，取前三个距离取平均值，以此作为最后的茶叶病斑类别判断依据。
用cifar数据集和plantvillage数据集2种数据集进行迁移学习，将提取得到的特征均使用Cayley-Klein度量的基础上，并记录了所有测试。
本实施例中，所述卷积层、下采样层、全连接层共同组成隐含层。
本实施例中，所述一种基于深度迁移和Cayley-Klein度量的小样本下茶叶病害识别算法，SVM进行病斑分割，源域和目标域的深度学习网络采用的是 VGG16网络提取特征，一个Cayley-Klein度量模型组成。借鉴深度迁移学习思想，利用大数据量的源域样本中分割出的病斑图像训练VGG16网络模型，并用目标域样本微调后获得特征提取网络，以抽取茶叶病斑图像特征，将抽取出来的茶叶病斑图像特征用来训练和测试Cayley-Klein度量模型，最终实现茶叶病害识别结果。
本实施例中，对于茶叶病害识别过程具体过程如下：
第一步：利用适合处理小样本的支持向量机方法分割茶叶病害图像中的病斑，以去除复杂背景的影响，对病斑图像分割；
第二步：了解决小样本下的过拟合问题，借鉴深度迁移学习思想，利用大数据量的源域样本中分割出的病斑图像训练VGG16网络模型，并用目标域样本微调后获得特征提取网络，以抽取茶叶病斑图像特征：
第三步：将抽取出来的茶叶病斑图像特征用来训练和测试Cayley-Klein 度量模型，最终实现茶叶病害识别结果。
本算法能够准确地检测三种不同的茶叶病害图像，并且具有较高的识别精度，同时具有较快的识别速度。该特性主要得益于迁移学习解决了小样本情况下数据量不足无法进行深度学习提取特征的问题，而Cayley-Klein度量边降维边度量的过程，降低了因迁移学习带来的负迁移影响。
尽管已经示出和描述了本发明的实施例，对于本领域的普通技术人员而言，可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型，本发明的范围由所附权利要求及其等同物限定。
Claims (8)
1.一种基于深度迁移和Cayley-Klein度量的小样本下茶叶病害识别算法，其特征在于，包括多卷积神经网络的训练过程：
基于深度迁移和Cayley-Klein度量的神经网络的训练过程分为两个阶段：第一个阶段是数据由低层次向高层次传播的阶段，即前向传播阶段；另外一个阶段是，择Cayley-Klein度量以反应样本空间结构信息或语义信息，使得距离度量具有更好的区分性，更好的减少负迁移特征所带来的影响，具体训练过程为：
第一步：网络进行权值的初始化；
第二步：输入数据经过卷积层、下采样层、全连接层的向前传播得到输出值；
第三步：借鉴深度迁移学习思想，利用大数据量的源域样本中分割出的病斑图像训练VGG16网络模型，并用目标域样本微调后获得特征提取网络，以抽取茶叶病斑图像特征；
第四步：将抽取出来的茶叶病斑图像特征用来训练和测试Cayley-Klein度量模型，最终实现茶叶病害识别结果。
2.根据权利要求1所述的一种基于深度迁移和Cayley-Klein度量的小样本下茶叶病害识别算法，其特征在于，包括卷积层，卷积层可实现对输入数据的特征提取功能，通过若干个卷积层重复作用于不同图像位置的感受野，将卷积所得到的结果组合得到特征图像，卷积层与输入接收区运算公式如下所示：
其中：x表示接收局域(M,N)的二维向量；w表示长和宽分别为j、i的卷积层；b为每个输出特征映射所加的偏置项，yconv为卷积结果；M为二维向量的长，N为二维向量的宽；f为激活函数。
3.根据权利要求1所述的一种基于深度迁移和Cayley-Klein度量的小样本下茶叶病害识别算法，其特征在于，包括池化层，池化层的主要作用是对卷积计算结果进行尺度缩小，以减少网络的参数量，经过池化层处理后的特征图的尺度会一定程度减小，尺寸为2，步长为2的最大池化函数为：
fpool＝Max(xm，n，xm+1，n，xm，n+1，xm+1，n+1)，(0≤m≤M，0≤n≤N)
其中：fpool为最大池化结果。
4.根据权利要求1所述的一种基于深度迁移和Cayley-Klein度量的小样本下茶叶病害识别算法，其特征在于，Cayley-Klein度量，Cayley-Klein度量是解决多分类问题的分类器，Cayley-Klei度量依赖于一个对称矩阵Ω，数据的统计特性通常可以在一定程度上比较好的反映出数据样本之间的几何结构，因此根据样本之间的类内高斯分布与类间高斯分布的对数似然比来定义Cayley-Klein度量矩阵的概念，对初始特征xi，xj∈Rd，通过降维矩阵W∈Rd×r(r＜d)将初始高维(d维)特征向量映射到低维子空间(r维)中，因此，Cayley-Klein度量矩阵转化为：
其中Σ′I是新的特征子空间中类内协方差矩阵，Σ′E表示的是新特征子空间中相同类别之间的协方差矩阵，且∑′I＝WT∑IW，∑′E＝WT∑EW，为了使不同类的样本图像更容易区分，利用度量的方法尽可能减小相同类别之间的方差，同时增大不同类别之间方差，这样通过增大方差的距离可以提升数据样本的区分度，对于矩阵W的列向量w，有方差σI(w)＝wT∑Iw，因此可以定义广义瑞利熵来最大化方差之间的比值：
使得J(w)最大化等价于：
根据求解广义特征值分解问题的方法，将矩阵W求解的问题变成一个监督问题，对矩阵
进行特征值分解，矩阵W由前r个最大特征值对应的特征向量组成，在求得降维矩阵W的同时也求出了度量矩阵Ω(W)，最后在特征子空间利用Cayley-Klein度量dE(x，y)计算茶叶病斑测试集中每一个样本和茶叶病斑训练集之间的距离，并按照距离从小到大排序，取前三个距离取平均值，以此作为最后的茶叶病斑类别判断依据，用cifar数据集和plantvillage数据集2种数据集进行迁移学习，将提取得到的特征均使用Cayley-Klein度量的基础上，并记录了所有测试。
5.根据权利要求1所述的一种基于深度迁移和Cayley-Klein度量的小样本下茶叶病害识别算法，其特征在于，所述卷积层、下采样层共同组成隐含层。
6.根据权利要求1所述的一种基于深度迁移和Cayley-Klein度量的小样本下茶叶病害识别算法，其特征在于，所述SVM进行病斑分割，源域和目标域的深度学习网络采用的是VGG16网络提取特征，一个Cayley-Klein度量模型组成。借鉴深度迁移学习思想，利用大数据量的源域样本中分割出的病斑图像训练VGG16网络模型，并用目标域样本微调后获得特征提取网络，以抽取茶叶病斑图像特征，将抽取出来的茶叶病斑图像特征用来训练和测试Cayley-Klein度量模型，最终实现茶叶病害识别结果。
7.根据权利要求1所述的一种基于深度迁移和Cayley-Klein度量的小样本下茶叶病害识别算法，其特征在于，所述深度迁移和Cayley-Klein度量的网络的训练过程中提供三种病变样本，分别为茶赤叶斑病样本、茶云纹叶枯病样本和茶圆赤星病样本。
8.根据权利要求1所述的一种基于深度迁移和Cayley-Klein度量的小样本下茶叶病害识别算法，其特征在于，对于茶叶病害识别过程具体过程如下：
第一步：利用适合处理小样本的支持向量机方法分割茶叶病害图像中的病斑，以去除复杂背景的影响，对病斑图像分割；
第二步：了解决小样本下的过拟合问题，借鉴深度迁移学习思想，利用大数据量的源域样本中分割出的病斑图像训练VGG16网络模型，并用目标域样本微调后获得特征提取网络，以抽取茶叶病斑图像特征：
第三步：将抽取出来的茶叶病斑图像特征用来训练和测试Cayley-Klein度量模型，最终实现茶叶病害识别结果。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110313426.2A CN113221942A (zh) | 2021-03-24 | 2021-03-24 | 一种基于深度迁移和Cayley-Klein度量的小样本下茶叶病害识别算法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110313426.2A CN113221942A (zh) | 2021-03-24 | 2021-03-24 | 一种基于深度迁移和Cayley-Klein度量的小样本下茶叶病害识别算法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113221942A true CN113221942A (zh) | 2021-08-06 |
Family
ID=77084038
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110313426.2A Pending CN113221942A (zh) | 2021-03-24 | 2021-03-24 | 一种基于深度迁移和Cayley-Klein度量的小样本下茶叶病害识别算法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113221942A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116310391A (zh) * | 2023-05-18 | 2023-06-23 | 安徽大学 | 一种用于茶叶病害的识别方法 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108647741A (zh) * | 2018-05-18 | 2018-10-12 | 湖北工业大学 | 一种基于迁移学习的图像分类方法和系统 |
| CN112434662A (zh) * | 2020-12-09 | 2021-03-02 | 安徽大学 | 一种基于多尺度卷积神经网络的茶叶病斑自动识别算法 |
| CN112434646A (zh) * | 2020-12-08 | 2021-03-02 | 浙江大学 | 基于迁移学习和计算机视觉技术的成品茶质量鉴别方法 |
-
2021
- 2021-03-24 CN CN202110313426.2A patent/CN113221942A/zh active Pending
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108647741A (zh) * | 2018-05-18 | 2018-10-12 | 湖北工业大学 | 一种基于迁移学习的图像分类方法和系统 |
| CN112434646A (zh) * | 2020-12-08 | 2021-03-02 | 浙江大学 | 基于迁移学习和计算机视觉技术的成品茶质量鉴别方法 |
| CN112434662A (zh) * | 2020-12-09 | 2021-03-02 | 安徽大学 | 一种基于多尺度卷积神经网络的茶叶病斑自动识别算法 |
Non-Patent Citations (2)
| Title |
|---|
| 吴昊昱: "基于小样本学习的自然场景图像中茶叶病害识别", 《中国优秀博硕士学位论文全文数据库(硕士)农业科技辑》 * |
| 言有三: "《深度学习之人脸图像处理：核心算法与案例实战》", 31 July 2020, 北京机械工业出版社 * |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116310391A (zh) * | 2023-05-18 | 2023-06-23 | 安徽大学 | 一种用于茶叶病害的识别方法 |
| CN116310391B (zh) * | 2023-05-18 | 2023-08-15 | 安徽大学 | 一种用于茶叶病害的识别方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Adeyanju et al. | Machine learning methods for sign language recognition: A critical review and analysis | |
| CN108154192B (zh) | 基于多尺度卷积与特征融合的高分辨sar地物分类方法 | |
| CN109154978B (zh) | 用于检测植物疾病的系统和方法 | |
| Sachar et al. | Survey of feature extraction and classification techniques to identify plant through leaves | |
| US10839510B2 (en) | Methods and systems for human tissue analysis using shearlet transforms | |
| Feng et al. | Patch-based fully convolutional neural network with skip connections for retinal blood vessel segmentation | |
| CN108009559B (zh) | 一种基于空谱联合信息的高光谱数据分类方法 | |
| Santos et al. | A fusion approach to unconstrained iris recognition | |
| CN108122008B (zh) | 基于稀疏表示和多特征决策级融合的sar图像识别方法 | |
| CN110533077B (zh) | 用于高光谱图像分类的形状自适应卷积深度神经网络方法 | |
| CN109978848B (zh) | 基于多光源颜色恒常模型检测眼底图像中硬性渗出的方法 | |
| Sunny et al. | An efficient citrus canker detection method based on contrast limited adaptive histogram equalization enhancement | |
| CN110569782A (zh) | 一种基于深度学习目标检测方法 | |
| CN110400288B (zh) | 一种融合双眼特征的糖网病识别方法及装置 | |
| CN112862792A (zh) | 一种用于小样本图像数据集的小麦白粉病孢子分割方法 | |
| CN107862680B (zh) | 一种基于相关滤波器的目标跟踪优化方法 | |
| CN112464983A (zh) | 一种用于苹果树叶病害图像分类的小样本学习方法 | |
| Khan et al. | Machine learning-based detection and classification of walnut fungi diseases | |
| Acharya et al. | Plant Disease detection for paddy crop using Ensemble of CNNs | |
| Velliangira et al. | A novel forgery detection in image frames of the videos using enhanced convolutional neural network in face images | |
| CN110827327B (zh) | 一种基于融合的长期目标跟踪方法 | |
| ul Haq et al. | Neural network based adaboosting approach for hyperspectral data classification | |
| CN113221942A (zh) | 一种基于深度迁移和Cayley-Klein度量的小样本下茶叶病害识别算法 | |
| WO2016192213A1 (zh) | 一种图像特征提取方法和装置、存储介质 | |
| Pushpa et al. | Deep learning model for plant species classification using leaf vein features |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20210806 |
|
| RJ01 | Rejection of invention patent application after publication |