CN114693990A - 基于特征提取的小样本农作物病害识别方法、存储介质 - Google Patents

基于特征提取的小样本农作物病害识别方法、存储介质 Download PDF

Info

Publication number
CN114693990A
CN114693990A CN202210242480.7A CN202210242480A CN114693990A CN 114693990 A CN114693990 A CN 114693990A CN 202210242480 A CN202210242480 A CN 202210242480A CN 114693990 A CN114693990 A CN 114693990A
Authority
CN
China
Prior art keywords
model
sample
feature extraction
crop disease
small
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210242480.7A
Other languages
English (en)
Inventor
万莉
高会议
曾明昭
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hefei Institutes of Physical Science of CAS
Original Assignee
Hefei Institutes of Physical Science of CAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hefei Institutes of Physical Science of CAS filed Critical Hefei Institutes of Physical Science of CAS
Priority to CN202210242480.7A priority Critical patent/CN114693990A/zh
Publication of CN114693990A publication Critical patent/CN114693990A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Image Analysis (AREA)

Abstract

本发明的一种基于特征提取的小样本农作物病害识别方法、存储介质，获取农作物病害图像数据，录入事先构建的小样本农作物病害识别模型进行病害识别，小样本农作物病害识别模型构建步骤如下：根据PlantVillage构建实验数据集；对实验数据集进行预处理；搭建小样本学习模型并开始训练；训练完成后输入测试集样本图像验证模型性能；小样本农作物病害识别模型的嵌入函数包括特征提取模块和特征注意力模块，该特征提取模块采用了在ImageNet数据集上预训练过的ResNet‑18模型；特征注意力模块为基于Transformer结构的特征注意力模块通过集合自适应方法，对特征提取模型进行适配，学习与目标任务相关的特征，使其适应到不同类别的分类任务中；本发明具有较好的识别准确性以及泛化性能。

Description

基于特征提取的小样本农作物病害识别方法、存储介质
技术领域
本发明涉及图像识别技术领域，具体涉及一种基于特征提取的小样本农作物病害识别方法、存储介质。
背景技术
农作物病害的诊断和识别在确保粮食生产的高质量和数量方面起着至关重要的作用。因此，准确并及时地发现农作物病害对于确保达到农业最大产量至关重要，尤其对偏远地区的农田十分有利。近年来随着计算机视觉技术和卷积神经网络技术的发展，农作物病害的自动识别和诊断技术已经逐渐取代了人工诊断方法。
传统的基于卷积神经网络的深度学习模型需要每个类别有成千上万的标记实例，这是保证病害识别模型性能的前提。但是在实际情况中，农业病害图像数据是难以获取的。此时基于卷积神经网络的病害识别模型十分容易受到过拟合现象的困扰，从而影响下一步防护措施的执行。
小样本学习(Few-Shot Learning，FSL)通常指的是从少量标注数据中学习的方法和场景。理想情况下，一个能进行小样本学习的模型，也能快速应用到新领域上。小样本学习是一种思想，并不特指某个具体的算法、模型，也没有通用的模板和解决办法，一般需要聚焦到特定的问题和应用场景中。
发明内容
本发明提出的一种基于特征提取的小样本农作物病害识别方法，利用小样本学习技术对不同的害虫、植物及其疾病进行自动分类。
为实现上述目的，本发明采用了以下技术方案：
一种基于特征提取的小样本农作物病害识别方法，包括获取农作物病害图像数据，录入事先构建的小样本农作物病害识别模型进行病害识别，小样本农作物病害识别模型构建步骤如下：
根据PlantVillage构建实验数据集；
对实验数据集进行预处理；
搭建小样本学习模型并开始训练；
训练完成后输入测试集样本图像验证模型性能；
其中，所述小样本农作物病害识别模型的嵌入函数包括特征提取模块和特征注意力模块，特征提取模块的作用是将样本数据的特征提取出来并将其映射到d维欧式空间中，映射结果就是一个d维嵌入向量，也就是特征向量；该特征提取模块采用了在ImageNet数据集上预训练过的ResNet-18模型；
所述特征注意力模块为基于Transformer结构的特征注意力模块，所述注意力模块学习不同分类任务之间的相关性，通过集合自适应方法，对特征提取模型进行适配，学习与目标任务相关的特征，使其适应到不同类别的分类任务中。
进一步的，所述小样本农作物病害识别模型的距离计算函数为马氏距离，马氏距离计算函数是衡量两个样本经过嵌入函数分别计算得出的d维嵌入向量之间的相似性，其计算公式如下：
Figure BDA0003543051880000021
其中，
Figure BDA0003543051880000022
是一次元学习任务t∈T中n∈N个类别之间的协方差矩阵。
进一步的，所述小样本农作物病害识别模型均采用PyTorch深度学习框架进行实现，采用随机梯度下降对模型进行训练，初始学习率设置为0.0002并伴随权重衰减策略，其中采用的卷积神经网络模型包括RestNet-18模型和Transformer模型，其中特征提取模块采用的是RestNet-18模型，特征注意力模块采用的是Transfromer模型。
进一步的，在将样本图像输入到特征提取模块之前，将所有的图像缩放为84×84×3的像素大小，本将该数据集分割成3组不同且相互独立的部分，每一组都包含了元训练集和元测试集。
进一步的，所述ResNet18模型的初始参数采用该模型在ImageNet公开数据集上的预训练参数，ResNet18是将图像映射为d维嵌入向量φx，对应图像的特征向量；Transformer模块则是在得到嵌入向量的基础之上，将支撑集的所有图像的特征向量φx经过Transfomer模块计算后得到带有注意力信息的新的特征向量ψx；
Figure BDA0003543051880000023
其中，
Figure BDA0003543051880000031
Transformer模块中计算参数Q，K，V的取值为
Figure BDA0003543051880000032
Q，K，V三者相同，是训练集中的所有支撑样本构成的集合；
Figure BDA0003543051880000033
Figure BDA0003543051880000034
Figure BDA0003543051880000035
WQ,WK,WV是权重矩阵，|Q|，|K|，|V|表示集合中元素的个数；
φx：输入图像是经过Resnet-18模型计算得到的d维向量；
ψx：在φx的基础之上利用Transformer结构加入辅助信息后的d维向量。
进一步的，所述小样本农作物病害识别模型在支撑集上进行一次训练后，就会在查询集上求得损失，采用马氏距离衡量特征向量之间的相似程度：
Figure BDA0003543051880000036
其中，
Figure BDA0003543051880000037
是针对一次任务t∈T中涉及到的n∈N个类别的协方差矩阵，协方差矩阵可以又正则估计量方法进行估算得到；
整个模型的总损失函数如下式：
Figure BDA0003543051880000038
其中，
Figure BDA0003543051880000039
是每个类别中所有样本的特征向量ψx的均值，yq是测试数据集中查询样本对应的真实类别标签，
Figure BDA00035430518800000310
是本发明模型的预测输出类别，λ是训练模型时设置的一个常数权值，l是交叉熵损失函数，该式第二部分的作用主要是用来训练模型中的Transformer结构。
进一步的，PlantVillage构建的实验数据集共包含38个类别，将为3组不同的划分方法，每组均选取10个类别作为元测试集，剩余28个类别作为元训练集部分，其中每组的元测试集所包含的10个类别不重复，元训练阶段，每一次元任务只选择5个类别中的5张样本作为支撑样本集，另外选取1张样本作为查询样本。
进一步的，在每一个残差网络ResNet-18结构中，其激活函数采用线性激活单元，采用批归一化技术抑制模型的过拟合现象，在残差网络的最后一层添加一个全局平均池化层，产生计算所需要的特征向量。
进一步的，Transformer结构中使用的dropout的概率设为0.5。
另一方面，本发明还公开一种计算机可读存储介质，存储有计算机程序，所述计算机程序被处理器执行时，使得所述处理器执行如上述方法的步骤。
本发明的基于特征提取的小样本农作物病害识别方法通过构建小样本农作物病害数据集，利用一些专业的农业网站上开源的有标签的农作物病害图像数据集，或者通过网络爬虫的方式进行相关农作物病害图像数据的收集。在实际情况中，农业病害类别具有多物种多样性的特点，所以针对单一物种单一病害获取大量数据是极其不容易的。因此采用小样本学习的范式，构建元训练集(Meta Training Set)和元测试集(Meta TestingSet)。其中，从元训练集中的N个类别中各随机选取M个样本数据作为支撑集(SupportSet)，然后选取每类别中的一个剩余样本作为查询集(Query Set)，在元训练(Meta Training)阶段，支撑集和查询集就构成了一次元学习任务(Meta Task)。同理在元测试(Meta Testing)阶段也做相同的设置。
在模型的每一次元学习任务中，都会对训练数据进行独立的随机采样。由于每次训练都会采样得到不同的元任务，所以总体来看，训练包含了不同的类别组合，这种机制使得模型学会不同元学习任务中的共性部分，比如如何提取重要特征及比较样本相似程度等。通过这种学习机制学到的模型，在面对新的未见过的元学习任务时，也能较好地进行分类。整个分类器模型相比现有小样本学习技术具有两个改进之处：
a)其一，嵌入函数由常规的特征提取模块和特征注意力模块两部分组成，特征提取模块的作用是将样本数据的特征提取出来并将其映射到d维欧式空间中，映射结果就是一个d维嵌入向量(embeddings)，也就是特征向量。该特征提取模块采用了在ImageNet数据集上预训练过的ResNet-18模型，但是，ResNet-18计算得出的特征向量并没有达到理想的效果，也就是其所提取的特征向量无法表达出某些隐含在图像样本中的关键特征，没有针对目标任务进行特定的设计，在应用到不同类别任务过程中可能表现不佳。本发明针对这个不足之处进行了改进，增加一个基于Transformer结构的特征注意力模块，它能够利用自注意力机制(self-attention mechanism)使得模型更加关注图像中对嵌入向量影响更加重要的区域，该注意力模块主要学习不同分类任务之间的相关性，通过集合自适应方法，对特征提取模型进行适配，学习与目标任务相关的特征，使其适应到不同类别的分类任务中。
b)其二，距离计算函数由常规的欧式距离改为马氏距离(MahalanobisDistance)。距离计算函数的作用是衡量两个样本经过嵌入函数分别计算得出的d维嵌入向量之间的相似性。相比于欧式距离，马氏距离可以看作是欧式距离的一种修正，改进了各个维度计算尺度不一致且具有相关性的问题。其计算公式如下：
Figure BDA0003543051880000051
其中，
Figure BDA0003543051880000052
是一次元学习任务t∈T中n∈N个类别之间的协方差矩阵。
本发明在基于包含38个类别的公开农作物病害数据集PlantVillage的基础之上，将其分成3组不同的且相互独立的数据集。相互独立是指这3组数据集中不存在重复的类别标签。本发明的小样本学习模型与先前应用在农作物病害分类上的优秀小样本模型具有较高的识别准确率的提升。
由上述技术方案可知，本发明的基于特征提取的小样本农作物病害识别方法，是一种改进的基于特征提取的自动分类识别农业病害的小样本识别方法，该模型具有较好的识别准确性以及泛化性能。
附图说明
图1是本申请的实施例的特征向量提取示意图；
图2是本申请的小样本病害识别方法的流程图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。
本实施例所述的基于特征提取的小样本农作物病害识别方法，包括以下步骤，获取农作物病害图像数据，录入事先构建的小样本农作物病害识别模型进行病害识别，小样本农作物病害识别模型构建步骤如下：
根据PlantVillage构建实验数据集；
对实验数据集进行预处理；
搭建小样本学习模型并开始训练；
训练完成后输入测试集样本图像验证模型性能；
其中，所述小样本农作物病害识别模型的嵌入函数包括特征提取模块和特征注意力模块，特征提取模块的作用是将样本数据的特征提取出来并将其映射到d维欧式空间中，映射结果就是一个d维嵌入向量，也就是特征向量；该特征提取模块采用了在ImageNet数据集上预训练过的ResNet-18模型；
如图1所示是本申请的实施例的特征向量提取示意图；其中，Input：输入样本x；Embeddings：φx；TransformEmbeddings：ψx；Embeddings和TransformEmbeddings为输入到整个模型的总损失函数公式计算；
所述特征注意力模块为基于Transformer结构的特征注意力模块，所述注意力模块学习不同分类任务之间的相关性，通过集合自适应方法，对特征提取模型进行适配，学习与目标任务相关的特征，使其适应到不同类别的分类任务中。
以下分别具体说明：
本发明提出的所有神经网络模型均采用PyTorch深度学习框架进行实现，采用随机梯度下降对模型进行训练，初始学习率设置为0.0002并伴随权重衰减策略。其中涉及到的卷积神经网络模型主要是RestNet-18模型和Transformer模型，其中特征提取模块采用的是RestNet-18模型，特征注意力模块采用的是Transfromer模型。
在将样本图像输入到特征提取模块之前，将所有的图像缩放为84×84×3的像素大小。PlantVillage公开数据集包含不同农作物病害叶片图像和健康叶片图像共计38个类别的数据，总包含图像数量共计61486枚。本发明将该数据集分割成3组不同且相互独立的部分。每一组都包含了元训练集和元测试集。进一步地，每一组的元测试集均包含10个不同的类别，而该组的训练集则元由剩余28个类别构成。此外，这三组元测试集所包含的类别均没有重复。
步骤1中所述的ResNet18模型的初始参数采用该模型在ImageNet公开数据集上的预训练参数，ResNet18的作用是将图像映射为d维嵌入向量φx，也就是对应图像的特征向量。Transformer模块则是在步骤3得到嵌入向量的基础之上，将支撑集的所有图像的特征向量φx经过Transfomer模块计算后得到带有注意力(attention)信息的新的特征向量ψx。
Figure BDA0003543051880000071
其中，
Figure BDA0003543051880000072
其中，Transformer模块中计算参数Q，K，V的取值为
Figure BDA0003543051880000073
其中，Q，K，V三者相同，是训练集中的所有支撑样本构成的集合。
Figure BDA0003543051880000074
Figure BDA0003543051880000075
Figure BDA0003543051880000076
WQ,WK,WV是权重矩阵，|Q|，|K|，|V|表示集合中元素的个数。
φx：输入图像是经过Resnet-18模型计算得到的d维向量；
ψx：在φx的基础之上利用Transformer结构加入辅助信息后的d维向量；
其中，ψx是在φx的基础上进行计算得到的，先计算得出φx之后通过Transformer结构计算得出ψx；
模型在支撑集上进行一次训练后，就会在查询集上求得损失。本发明采用马氏距离替代欧氏距离衡量特征向量之间的相似程度。
Figure BDA0003543051880000077
其中，
Figure BDA0003543051880000078
是针对一次任务t∈T中涉及到的n∈N个类别的协方差矩阵，协方差矩阵可以又正则估计量方法进行估算得到。为了确保能够缩小同类别样本数据计算后的特征向量ψx，以及扩大不同类别样本计算后的特征向量ψx之间距离。
整个模型的总损失函数如下式：
Figure BDA0003543051880000079
其中，
Figure BDA00035430518800000710
是每个类别中所有样本的特征向量ψx的均值。yq是测试数据集中查询样本对应的真实类别标签，
Figure BDA00035430518800000711
是本发明模型的预测输出类别，λ是训练模型时设置的一个常数权值。l是交叉熵损失函数，该式第二部分的作用主要是用来训练模型中的Transformer结构。
数据集的划分：PlantVillage数据集共包含38个类别，将为3组不同的划分方法。每组均选取10个类别作为元测试集，剩余28个类别作为元训练集部分，其中每组的元测试集所包含的10个类别不重复。元训练阶段，每一次元任务(meta-task)只选择5个类别中的5张样本作为支撑样本集，另外选取1张样本作为查询样本。
具体的模型细节：在每一个残差网络(ResNet-18)结构中，其激活函数采用线性激活单元(ReLU)，采用批归一化技术(BN)抑制模型的过拟合现象。在残差网络的最后一层添加一个全局平均池化层，产生计算所需要的特征向量。Transformer结构中使用的dropout的概率设为0.5。
实验结果：如下表所示，相比于经典的小样本学习范式，具体指没有引入Transformer结构的模型。本发明在现有技术方案上引入Transformer特征注意力模块后，使得识别正确率得到了有效的提升。
实验模型 分组1 分组2 分组3
经典方法 0.53 0.77 0.69
本发明方法 0.64 0.82 0.89
由上述技术方案可知，本发明的基于特征提取的小样本农作物病害识别方法，是一种改进的基于特征提取的自动分类识别农业病害的小样本识别方法，该模型具有较好的识别准确性以及泛化性能。
又一方面，本发明还公开一种计算机可读存储介质，存储有计算机程序，所述计算机程序被处理器执行时，使得所述处理器执行如上述任一方法的步骤。
再一方面，本发明还公开一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，所述计算机程序被所述处理器执行时，使得所述处理器执行如上述任一方法的步骤。
在本申请提供的又一实施例中，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述实施例中任一方法的步骤。
可理解的是，本发明实施例提供的系统与本发明实施例提供的方法相对应，相关内容的解释、举例和有益效果可以参考上述方法中的相应部分。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的程序可存储于一非易失性计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用，均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限，RAM以多种形式可得，诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
以上实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。
以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (10)

1.一种基于特征提取的小样本农作物病害识别方法，获取农作物病害图像数据，录入事先构建的小样本农作物病害识别模型进行病害识别，其特征在于，小样本农作物病害识别模型构建步骤如下：
根据PlantVillage构建实验数据集；
对实验数据集进行预处理；
搭建小样本学习模型并开始训练；
训练完成后输入测试集样本图像验证模型性能；
其中，所述小样本农作物病害识别模型的嵌入函数包括特征提取模块和特征注意力模块，特征提取模块的作用是将样本数据的特征提取出来并将其映射到d维欧式空间中，映射结果就是一个d维嵌入向量，也就是特征向量；该特征提取模块采用了在ImageNet数据集上预训练过的ResNet-18模型；
所述特征注意力模块为基于Transformer结构的特征注意力模块，所述注意力模块学习不同分类任务之间的相关性，通过集合自适应方法，对特征提取模型进行适配，学习与目标任务相关的特征，使其适应到不同类别的分类任务中。
2.根据权利要求1所述的基于特征提取的小样本农作物病害识别方法，其特征在于：所述小样本农作物病害识别模型的距离计算函数为马氏距离，马氏距离计算函数是衡量两个样本经过嵌入函数分别计算得出的d维嵌入向量之间的相似性，其计算公式如下：
Figure FDA0003543051870000011
其中，
Figure FDA0003543051870000012
是一次元学习任务t∈T中n∈N个类别之间的协方差矩阵。
3.根据权利要求2所述的基于特征提取的小样本农作物病害识别方法，其特征在于：所述小样本农作物病害识别模型均采用PyTorch深度学习框架进行实现，采用随机梯度下降对模型进行训练，初始学习率设置为0.0002并伴随权重衰减策略，其中采用的卷积神经网络模型包括RestNet-18模型和Transformer模型，其中特征提取模块采用的是RestNet-18模型，特征注意力模块采用的是Transfromer模型。
4.根据权利要求1所述的基于特征提取的小样本农作物病害识别方法，其特征在于：在将样本图像输入到特征提取模块之前，将所有的图像缩放为84×84×3的像素大小，本将该数据集分割成3组不同且相互独立的部分，每一组都包含了元训练集和元测试集。
5.根据权利要求3所述的基于特征提取的小样本农作物病害识别方法，其特征在于：所述ResNet18模型的初始参数采用该模型在ImageNet公开数据集上的预训练参数，ResNet18是将图像映射为d维嵌入向量φx，对应图像的特征向量；Transformer模块则是在得到嵌入向量的基础之上，将支撑集的所有图像的特征向量φx经过Transfomer模块计算后得到带有注意力信息的新的特征向量ψx；
Figure FDA0003543051870000021
其中，
Figure FDA0003543051870000022
Transformer模块中计算参数Q，K，V的取值为
Figure FDA0003543051870000023
Q，K，V三者相同，是训练集中的所有支撑样本构成的集合；
Figure FDA0003543051870000024
Figure FDA0003543051870000025
Figure FDA0003543051870000026
WQ,WK,WV是权重矩阵，|Q|，|K|，|V|表示集合中元素的个数；
φx是输入图像是经过Resnet-18模型计算得到的d维向量；
ψx是在φx的基础之上利用Transformer结构加入辅助信息后的d维向量。
6.根据权利要求3所述的基于特征提取的小样本农作物病害识别方法，其特征在于：所述小样本农作物病害识别模型在支撑集上进行一次训练后，就会在查询集上求得损失，采用马氏距离衡量特征向量之间的相似程度：
Figure FDA0003543051870000027
其中，
Figure FDA0003543051870000028
是针对一次任务t∈T中涉及到的n∈N个类别的协方差矩阵，协方差矩阵可以又正则估计量方法进行估算得到；
整个模型的总损失函数如下式：
Figure FDA0003543051870000029
其中，
Figure FDA00035430518700000210
是每个类别中所有样本的特征向量ψx的均值，yq是测试数据集中查询样本对应的真实类别标签，
Figure FDA00035430518700000211
是本发明模型的预测输出类别，λ是训练模型时设置的一个常数权值，l是交叉熵损失函数，该式第二部分的作用主要是用来训练模型中的Transformer结构。
7.根据权利要求1所述的基于特征提取的小样本农作物病害识别方法，其特征在于：
PlantVillage构建的实验数据集共包含38个类别，将为3组不同的划分方法，每组均选取10个类别作为元测试集，剩余28个类别作为元训练集部分，其中每组的元测试集所包含的10个类别不重复，元训练阶段，每一次元任务只选择5个类别中的5张样本作为支撑样本集，另外选取1张样本作为查询样本。
8.根据权利要求3所述的基于特征提取的小样本农作物病害识别方法，其特征在于：
在每一个残差网络ResNet-18结构中，其激活函数采用线性激活单元，采用批归一化技术抑制模型的过拟合现象，在残差网络的最后一层添加一个全局平均池化层，产生计算所需要的特征向量。
9.根据权利要求3所述的基于特征提取的小样本农作物病害识别方法，其特征在于：
Transformer结构中使用的dropout的概率设为0.5。
10.一种计算机可读存储介质，存储有计算机程序，所述计算机程序被处理器执行时，使得所述处理器执行如权利要求1至9中任一项所述方法的步骤。
CN202210242480.7A 2022-03-11 2022-03-11 基于特征提取的小样本农作物病害识别方法、存储介质 Pending CN114693990A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210242480.7A CN114693990A (zh) 2022-03-11 2022-03-11 基于特征提取的小样本农作物病害识别方法、存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210242480.7A CN114693990A (zh) 2022-03-11 2022-03-11 基于特征提取的小样本农作物病害识别方法、存储介质

Publications (1)

Publication Number Publication Date
CN114693990A true CN114693990A (zh) 2022-07-01

Family

ID=82139572

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210242480.7A Pending CN114693990A (zh) 2022-03-11 2022-03-11 基于特征提取的小样本农作物病害识别方法、存储介质

Country Status (1)

Country Link
CN (1) CN114693990A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115050014A (zh) * 2022-06-15 2022-09-13 河北农业大学 一种基于图像文本学习的小样本番茄病害识别系统及方法
CN115112669A (zh) * 2022-07-05 2022-09-27 重庆大学 一种基于小样本的路面无损检测识别方法
CN117058492A (zh) * 2023-10-13 2023-11-14 之江实验室 一种基于学习解耦的两阶段训练病害识别方法和系统
CN117636064A (zh) * 2023-12-21 2024-03-01 浙江大学 一种基于儿童病理切片的神经母细胞瘤智能分类系统

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115050014A (zh) * 2022-06-15 2022-09-13 河北农业大学 一种基于图像文本学习的小样本番茄病害识别系统及方法
CN115112669A (zh) * 2022-07-05 2022-09-27 重庆大学 一种基于小样本的路面无损检测识别方法
US11908124B2 (en) 2022-07-05 2024-02-20 Chongqing University Pavement nondestructive detection and identification method based on small samples
CN117058492A (zh) * 2023-10-13 2023-11-14 之江实验室 一种基于学习解耦的两阶段训练病害识别方法和系统
CN117058492B (zh) * 2023-10-13 2024-02-27 之江实验室 一种基于学习解耦的两阶段训练病害识别方法和系统
CN117636064A (zh) * 2023-12-21 2024-03-01 浙江大学 一种基于儿童病理切片的神经母细胞瘤智能分类系统
CN117636064B (zh) * 2023-12-21 2024-05-28 浙江大学 一种基于儿童病理切片的神经母细胞瘤智能分类系统

Similar Documents

Publication Publication Date Title
CN114693990A (zh) 基于特征提取的小样本农作物病害识别方法、存储介质
CN110516095B (zh) 基于语义迁移的弱监督深度哈希社交图像检索方法和系统
CN110942091B (zh) 寻找可靠的异常数据中心的半监督少样本图像分类方法
WO2021027142A1 (zh) 图片分类模型训练方法、系统和计算机设备
CN111354338B (zh) 基于pso卷积核优化稀疏迁移学习的帕金森语音识别系统
CN112699941B (zh) 植物病害严重程度图像分类方法、装置、设备和存储介质
CN114419672A (zh) 基于一致性学习的跨场景持续学习的行人再识别方法及装置
CN113408605A (zh) 基于小样本学习的高光谱图像半监督分类方法
CN112949740B (zh) 一种基于多级度量的小样本图像分类方法
CN112434662B (zh) 一种基于多尺度卷积神经网络的茶叶病斑自动识别算法
CN111126426A (zh) 特征选择方法、装置、计算机设备和存储介质
WO2022166362A1 (zh) 一种基于隐空间学习和流行约束的无监督特征选择方法
CN114708903A (zh) 一种基于自注意力机制的蛋白质残基间距离预测方法
CN113140254A (zh) 元学习药物-靶点相互作用预测系统及预测方法
CN114818963B (zh) 一种基于跨图像特征融合的小样本检测方法
CN113239168A (zh) 一种基于知识图谱嵌入预测模型的可解释性方法和系统
CN113066528B (zh) 基于主动半监督图神经网络的蛋白质分类方法
CN112115230B (zh) 一种基于层次类别信息的知识图谱构建方法
CN117093924A (zh) 基于域适应特征的旋转机械变工况故障诊断方法
CN111753995A (zh) 一种基于梯度提升树的局部可解释方法
CN109308936B (zh) 一种粮食作物产地的识别方法、识别装置及终端识别设备
CN113076823A (zh) 一种年龄预测模型的训练方法、年龄预测方法及相关装置
CN116431775A (zh) 意图类别识别模型的确定方法、装置、设备和存储介质
CN115830372A (zh) 基于类激活热力图的长尾数据分类方法、系统及介质
CN117689958A (zh) 一种基于子空间网络的少样本遥感场景分类方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination